Perspektif "iskin" dalam pengelolaan kemanusiaan

2024 Pengarang: Seth Attwood | [email protected]. Terakhir diubah: 2023-12-16 16:08

Apa yang terjadi jika Anda memercayai kecerdasan buatan untuk mengendalikan orang? Dalam undang-undang kami, 99% undang-undang saling bertentangan. Logikanya, harus ada pemadaman listrik dan penghentian sistem kontrol …

Sekarang mari kita pikirkan tempat itu kecerdasan buatan(selanjutnya - iskin) akan mengambil dalam hidup kita ketika (jika) itu ditemukan dan diterapkan. Saya sarankan untuk tidak berdebat tentang sifat batinnya. Biarlah itu hanya algoritma yang sangat canggih yang memiliki kemampuan untuk bekerja dengan Big Data, dan juga mampu menyalin pola perilaku orang nyata. Tapi, jika mau, biarlah yang dibicarakan pria sejati, seperti yang Anda sendiri pahami.

Pertanyaan utama di sini adalah ini. Di mana kita menerapkan Hammer of Thor ini setelah kita menerimanya? Dan pada prinsipnya, tidak ada keraguan bahwa itu bisa dibuat. Kita dapat melakukan penggiling digital, algoritme belajar mandiri juga, akumulasi tanggal besar - semuanya ada di sana.

Katakanlah, dalam pengelolaan sistem teknis, misalnya, unit transportasi individu? - Nah, kamon … Mengapa membuat sistem yang cerdas dan kompleks untuk mempercayakannya dengan apa yang bisa ditangani kuda? Akan ada cukup dan algoritma primitif pada prosesor untuk 10 dolar per ember, masalah dengan manajemen transportasi hanya dalam memperoleh data dan dalam masalah etika. Lalu bagaimana? Pikirkan sekitar lima belas detik.

Menurut pendapat saya, hanya ada satu hal yang nyata bagi seorang iskin adalah mengelola orang … Lebih tepatnya, proses di mana orang menjadi bagiannya. Tidak ada gunanya menukar lebih sedikit karena sejumlah alasan. Setiap orang siap untuk mengelola orang tanpa pelatihan khusus. Misalnya, kami sepenuhnya memercayai setiap orang untuk mengelola anak-anak kami sendiri. Juga, hampir semua orang dalam tim memiliki setidaknya beberapa pengalaman manajemen. Setidaknya di tingkat "lemparkan satu sekop lagi ke tandu, dan kami akan membawanya." Jika semua orang seseorang pada prinsipnya mampu mengelola orang, maka AI harus dapat melakukan ini, jika tidak, itu adalah kecerdasan yang terganggu secara mental.

Namun, hasil mengelola orang jauh dari ideal. Kontrol nyata apa pun adalah serangkaian kesalahan dan ketidakakuratan. Selain itu, jumlah kesalahan hampir tidak tergantung pada tingkat manajer, itu adalah konstanta tertentu. Hanya saja mandor pemuat melakukan kesalahan kecil, dan gubernur diberi hak untuk melakukan kesalahan yang berakibat serius. Kami memahami ini. “Kita seharusnya berbuat salah” adalah hasil utama dari refleksi dunia sekitar, termasuk diri kita sendiri.

Dan sekarang, di tangan kita ada AI yang seharusnya "melakukannya". Dan kami akan segera menerapkannya, karena masalah yang secara teoritis dapat diselesaikan adalah yang paling penting. Dan Jamshut dengan tiga kelas pendidikan juga mampu mengemudikan truk.

Jika Anda setuju dengan saya tentang hal ini, mari kita lanjutkan untuk menyajikan fungsionalitas kulit buatan yang dimaksudkan untuk dikelola. Fungsi siapa yang harus dia lakukan, siapa yang harus dia ganti atau setidaknya diperkuat dengan keputusannya?

Jelas bahwa ini akan menjadi pejabat (baik dalam administrasi publik dan dalam bisnis). Pejabat membuat keputusan. Pejabat diterima di semua tingkat kompetensi. Pejabat penting dan dibutuhkan saat ini, karena keputusan tidak akan diambil dengan sendirinya. Tapi ada satu poin.

Mari kita lihat setiap manajer (yaitu, setiap pejabat) dari sudut pandang isi literal dari kegiatan praktisnya. Tetapi tidak dalam arti motivasinya - pola dasar motivasi, seolah-olah, tidak seharusnya. Seorang pejabat baik menyetujui transaksi atau membatalkan transaksi yang disetujui oleh pejabat lain.

Dalam mesin yang ideal, semua transaksi harus disetujui tanpa syarat dan tidak ada transaksi yang dapat dibatalkan karena sebelumnya telah disetujui secara hukum. Faktor penting dalam sistem ini adalah bahwa transaksi diserahkan kepada pejabat dari "kotak hitam" untuk dipertimbangkan. Dia tidak diberi penjelasan mengapa transaksi semacam itu harus dilakukan atau mengapa itu disetujui oleh pejabat lain. Sistem kendali yang dibangun sebagai berikut. Di atas muncul perintah berupa instruksi untuk melakukan sejumlah transaksi.

Perhatikan bahwa struktur ideologis dari sistem semacam itu sama sekali tidak menyiratkan kemungkinan untuk membatalkan (tidak menyetujui) transaksi yang diterima dari atas, dari "kotak hitam". Namun dalam praktiknya, kemungkinan seperti itu selalu ada. Dan dialah yang memberikan dua hal terpenting: kekuatan pejabat mana pun dan penahanan kekuatan tersebut.

Mari saya jelaskan bahwa kesalahan apa pun (kami katakan di atas bahwa itu tidak dapat dihindari dan permanen) dapat dibubarkan dalam oposisi massa birokrasi yang mendasarinya, maka konsekuensi dari kesalahan itu dapat diminimalkan.

Namun, dalam sistem manajemen ideal teoritis tidak boleh ada kesalahan, untuk alasan ini peran pejabat direduksi menjadi persetujuan formal atas transaksi, yang tidak bisa tidak dia setujui, karena itu benar. Artinya, tidak perlu untuk itu. Jadi pertanyaannya bermuara pada sinyal manajemen awal. Jika benar, maka tidak ada artinya di semua tingkatan yang lebih rendah.

Jadi, secara teori, konsolidasi anggaran negara harus bekerja. Ketika diterima, itu berarti semua esensi fraktalnya terungkap. Setiap kapiler harus menerima bagian darah yang ditentukan, dan sebagai tanggapan - hasil yang diinginkan. Ya, di bagian paling bawah ada "tetapi kami tidak mengirimkan beton tepat waktu, dan karena itu …" Tapi permisi, ini di bagian paling bawah, dan alat kontrol terdiri dari banyak level yang tidak menyentuh beton sama sekali, mereka beroperasi dengan transaksi. Saya mengerti bahwa di tingkat menengah "beton tidak dikirim" terlihat berbeda, seperti "wakil presiden konstruksi kosmodrom mencuri 100 juta, dan karena itu …" Saya sedang berbicara tentang skema yang ideal di sini.

Mari kembali ke kulit ideal kita. Lagi pula, dalam tugas ini ia harus menyelesaikan masalah yang sama - persetujuan atau larangan transaksi. Dan dia bisa melakukan itu! Hanya sekarang dia sendiri yang bisa menggantikan semua level manajemen sekaligus. Lagi pula, jika, menggantikan menteri, dia menyetujui transaksi tingkat menteri yang besar, maka keputusannya harus diakui benar. Dan itu mencakup analisis seluruh distribusi lebih lanjut dari transaksi besar hingga pembayaran IP Pupkin untuk perbaikan teras rumah sakit jiwa di Kineshma.

Jadi seluruh rantai pejabat yang berkewajiban untuk menyetujui transaksi dari tingkat yang lebih rendah setelah dari yang pertama dapat dengan aman diganti dengan algoritma AI yang sama. Masalah sudah teratasi, sampai ke bawah. AI kami bahkan tidak perlu digunakan untuk mengganti seluruh rantai, AI hanya membatalkan kebutuhan untuk itu. Keputusannya benar karena memang benar. Dan itu segera mencakup solusi untuk seluruh fraktal.

Komentar. Pejabat bawahan mana pun di dunia nyata kita bisa lebih pintar dari yang lebih tinggi. Kemudian dia akan menyabotase keputusan bos, dan kemudian dia akan membantunya. Hal ini selalu terjadi. Semua pejabat yang ada mengambil tempat mantan atasannya, kecuali level awal. Namun dalam kasus ini, persaingan tidak mungkin terjadi. Satu iskin memutuskan segalanya di sepanjang rantai sendirian, dia tidak bisa bertentangan dengan dirinya sendiri.

Lebih-lebih lagi. Dalam sistem tata kelola kami, ada pengadilan, yang kami berikan wewenang untuk membatalkan transaksi kami dan menjalankannya sendiri, terlepas dari pendapat kami tentangnya. (Menempatkan seorang pembunuh di penjara juga merupakan transaksi yang terikat aturan. Hakim di sini adalah pejabat yang menyetujui atau membatalkan suatu transaksi yang datang kepadanya sebagaimana ditentukan dari kotak hitam.) Jika orang bodoh kami baik, maka dia lebih baik dari pejabat, karena kami mempercayakannya dengan persetujuan atau pembatalan transaksi untuk mereka (untuk kami). Jadi dia lebih baik dari hakim. Jika tidak, ternyata keputusan iskin dapat ditentang dan dibatalkan oleh orang-orang. Dan jika orang menerima ini, maka mereka akan mengakui bahwa AI lebih buruk daripada manusia. Lalu atas dasar apa dia mengganti pejabat?

Kesimpulan. Iskin juga tidak akan diadili. Lagi. Jika Anda manusia menulis algoritme terbaik Anda, mengenalinya dengan sangat baik sehingga Anda memberinya kekuatan atas diri Anda sendiri, maka Anda tidak dapat menulis algoritme yang lebih baik lagi sehingga ia menilai keputusan yang pertama. Anda akan menempatkan algoritme terbaik Anda baik sebagai manajer maupun sebagai juri. Lebih tepatnya, para hakim akan menghilang begitu saja. Anda harus memberikan AI ini kekuatan penuh atas Anda.

Omong-omong, kotak hitam asli, dari mana data awal untuk kontrol datang ke ISK, juga dapat didigitalkan. Dan bahkan harus didigitalisasi. Anggaran gabungan harus yang paling sesuai. Dan dia juga melakukannya.

Momen lain. Atau mungkin menempatkan seseorang di atas orang yang akan mengendalikan keputusannya sehingga kesalahan yang dapat terjadi karena ketidakmanusiawiannya, misalnya, tidak terjadi? - Kemudian semua pejabat akan mempertahankan posisi dan kekuasaannya. Mereka juga akan diberikan hak untuk membatalkan transaksi yang disetujui oleh ISK atau menyetujui yang dibatalkan. Sayangnya, itu tidak terlihat nyata. Iskin akan memberikan printout alasan di balik keputusannya. Dan seseorang tidak akan dapat menyangkal logika formal dengan perasaan atau minatnya. Bahkan dalam hal ini, jika seorang pejabat yang hidup terikat pada setiap manifestasi dari suatu tindakan (sebenarnya, satu), mereka tidak akan dapat melawannya.

Maaf atas kebingungannya, ada banyak pemikiran, dan panjang teks terus bertambah.

Ketika ISK dihidupkan, keruntuhan total akan terjadi. Tidak, saya mengerti bahwa pada awalnya mereka mengendarainya dalam mode uji. Tetapi ini akan menjadi pencemaran nama baik, karena dengan demikian perlu meniru seluruh masyarakat, dengan semua koneksinya secara keseluruhan, bukan model yang disederhanakan, tetapi perontok digital tidak dapat melakukan ini.

Kemudian akan diluncurkan dalam mode terbatas, di Wilayah Perm bersyarat. Bug, debugging, rilis baru dan produksi?

Tapi cepat atau lambat, pita merah akan dipotong dan orang akan dapat mengendalikan mobil dengan kekuatan penuh (dengan tangan di sakelar).

Dan apakah Anda tahu apa yang akan terjadi? Iskin akan menghentikan semua transaksi sekaligus. Logika “jika-maka” akan bertabrakan dengan jutaan norma peraturan dalam undang-undang saat ini, yang saling bertentangan puluhan ribu kali. finita. Kereta kami akan berhenti, pembayaran sekaleng saury di supermarket tidak akan berfungsi. Setiap orang akan segera didakwa dengan sekelompok pelanggaran dan kejahatan yang dapat dikirim ke pihak berwenang, tetapi semua orang di pihak berwenang akan segera dipecat dan diadili. Putusan pengadilan akan segera mengeluarkan klaim. Tanggal besar, semuanya ditulis tentang Anda. Oke, ini adalah hal-hal kecil. Tetapi mereka juga tidak akan dapat mentransfer gaji Anda, karena kantor berutang pajak, dan gerobak mendenda Anda.

melebih-lebihkan? Tidak. Peluncuran pertama (dengan tangan di sakelar) akan dikontrol, uji dua, uji dua puluh dua … Dan suatu hari akan dihidupkan secara penuh, seolah-olah telah melewati siklus pengujian penuh. Dan kemudian … Dan kami akan membubarkan para pejabat, sukarelawan akan menyelamatkan situasi.

Apakah mungkin untuk menghindari konsekuensi yang menyedihkan seperti itu? - Tentu saja, Anda dapat mencoba. Untuk melakukan ini, beberapa hal harus dilakukan. Hancurkan 99% dari undang-undang, daur ulang 1% sisanya tanpa menuangkan bayi keluar dengan air. (Hal-hal seperti itu biasanya dilakukan setelah revolusi penuh dengan perang saudara penuh. Bagaimana melakukannya di masa damai - saya tidak tahu.) Selain itu, moralitas harus dikerjakan ulang. Dalam hal mencuri sebungkus kertas dari kantor (atau berselingkuh dengan istrinya), itu bisa diterima (tercermin dalam undang-undang), atau sama sekali memerlukan batas waktu. Moralitas ini harus dibangun kembali dalam benak masyarakat. Jika tidak, itu akan mulai memotong kabel optik, yang murah, sederhana dan efektif melawan AI. Pilihan lain adalah melemparkan iskin ini ke pasangan yang mungkin, biarkan dia memotong tangannya sendiri. Dan, tentu saja, kelas atas tidak boleh merepotkan. Jika mereka tidak mampu, maka mereka akan menggunakannya sebagai kesempatan terakhir.

Saya tidak mencoba meyakinkan Anda untuk merusak komputer. Kami tidak akan pergi ke mana pun dari iskin. Dia akan menyusul kita, kita harus terlibat dengannya. Mari kita coba memahami dengan apa (dengan siapa) kita harus berperang dengan takdir kita.