Dimana AI dan organisme berbeda dan apa artinya bagi AGI

Algoritme kecerdasan buatan mengalahkan manusia di Go (permainan paling kompleks yang pernah ada), menulis posting blog viral, dan mengganggu metode ilmiah . Pencapaian di bidang yang secara tradisional didominasi oleh pikiran manusia paling kreatif ini menimbulkan pertanyaan tentang apakah AI dapat segera mereplikasi potensi kreatif pikiran manusia. Kecerdasan umum buatan (AGI), cawan suci penelitian AI, berupaya melakukan hal itu.

AI yang mengalahkan juara dunia manusia di Go hebat dalam memainkan game, tetapi tidak dapat melakukan banyak hal lain tanpa modifikasi berat. Selain peningkatan eksponensial dalam daya komputasi, spesialisasi hiper ini (yang tidak berlaku untuk AGI) adalah alasan utama di balik kesuksesan AI.

“Agar AI termotivasi untuk mencapai suatu tujuan, ia harus tahu apa yang diinginkannya.”

Kemungkinan kombinasi papan dalam permainan Go lebih dari jumlah atom di alam semesta yang diketahui, tetapi itu masih jumlah yang terbatas. Di dunia nyata, ada kemungkinan tak terbatas untuk apa yang mungkin terjadi selanjutnya, dan ketidakpastian merajalela. Seberapa realistiskah AGI?

Berurusan dengan ambiguitas

Sebuah makalah penelitian terbaru yang diterbitkan di Frontiers in Ecology and Evolution mengeksplorasi hambatan terhadap AGI . Sistem biologis dengan tingkat kecerdasan umum — organisme mulai dari mikroba sederhana hingga manusia yang membaca ini — mampu berimprovisasi untuk memenuhi tujuan mereka. Apa yang mencegah AI dari berimprovisasi? 

Pertama, kurangnya motivasi. Agar AI termotivasi menuju suatu tujuan, ia harus tahu apa yang diinginkannya. Tetapi suatu algoritma tidak bisa menginginkan sesuatu. Sehebat algoritma Go-playing dalam mengalahkan pemain manusia, itu tidak berusaha untuk melakukan hal lain.

Bahkan sistem AI tercanggih yang mungkin tampak ajaib bagi kita sepenuhnya dijelaskan oleh algoritme yang cerdas dan seringkali rumit. Tetapi tiga fitur yang menentukan dari AGI hampir tidak mungkin dibuat dengan algoritma. Fitur-fitur ini menggunakan akal sehat, menangani ambiguitas, dan menciptakan pengetahuan baru. 

Mengapa kami tidak dapat mengkodekannya, Anda bertanya? Karena kita bahkan tidak bisa mulai mendefinisikannya .

Apakah sesuatu itu masuk akal, seberapa ambigu sesuatu itu, atau pengetahuan mana yang berguna bagi siapa sangat bergantung pada konteksnya. Sistem AI beroperasi hanya dalam konteks terbatas dari batas-batas logika yang dikodekan ke dalamnya. Oleh karena itu, mereka tidak dapat dengan mudah menangani ambiguitas atau menghasilkan pengetahuan baru, di luar skenario yang telah dikodekan sebelumnya.

Sebaliknya, manusia memanfaatkan ambiguitas untuk menghasilkan pengetahuan baru. Ambil contoh ahli matematika, yang tampak seperti komputer yang dipersonifikasikan oleh sebagian besar dari kita dan selalu menguji batas akal dan logika dalam pekerjaan mereka. 

Jika hanya itu yang mereka lakukan, algoritme AI dapat menciptakan pengetahuan matematika baru, seperti solusi untuk hipotesis Riemann . Namun, banyak matematikawan mengaitkan penemuan terbesar mereka dengan intuisi .

Seperti apa agensi sejati itu?

Peneliti kecerdasan buatan sering menggambarkan entitas yang mengambil keputusan otonom sebagai “agen.”

Ini dirancang untuk menjadi rasional, dalam arti bahwa mereka membuat keputusan yang paling optimal dengan informasi terbatas apa pun yang mereka miliki. Seperti organisme, agen AI juga dapat membaca lingkungannya dan bereaksi terhadapnya. Pikirkan drone dengan sensor berbasis AI, yang memindai fasilitas dan mengambil gambar untuk mendeteksi aktivitas yang mencurigakan.

Bagaimana otonomi drone berbeda dari elang yang memindai lanskap dan menukik ketika melihat mangsa? Tidak seperti drone, elang memiliki perasaan tentang apa yang baik atau buruk untuknya dan dapat menukik hanya untuk bersenang-senang, jika diinginkan. Ia dapat memilih untuk melepaskan sejumlah besar kemungkinan demi kemungkinan yang disukainya. Drone, di sisi lain, dibatasi oleh kemungkinan dan probabilitas yang terhubung ke algoritmenya dan tidak memiliki agensi yang sebenarnya.

Agensi yang sebenarnya adalah mampu memulai tindakan secara internal, tanpa harus membutuhkan stimulus dari lingkungan. Organisme dapat mengatur batas-batas mereka sendiri untuk mendapatkan otonomi atas interaksi mereka dengan lingkungan, dalam apa yang dikenal sebagai otonomi interaktif. 

Seperti yang dijelaskan oleh penulisnya, “organisme dapat mengidentifikasi dan mengeksploitasi keterjangkauan dalam wadah mereka” (yaitu, dunia seperti yang mereka rasakan). Terjemahan: suatu organisme, atau agen sejati, dapat memanfaatkan setiap dan semua peluang yang disediakan lingkungannya.

Apa artinya ini bagi evolusi

Pandangan populer tentang evolusi, yang dicontohkan oleh algoritme evolusi, adalah bahwa ini adalah strategi pencarian, melalui ruang solusi. Tetapi karena organisme lebih mampu secara komputasi (dan kreatif) daripada agen AI, pasti ada lebih dari itu. 

Tidak seperti agen AI, organisme dapat mengalami evolusi terbuka. Artinya, organisme dapat menemukan solusi baru yang bukan hanya kombinasi dari solusi yang ada. Evolusi hewan, pada kenyataannya, penuh dengan contoh kemunculan fitur-fitur baru yang tiba-tiba dan cepat, seperti selama ledakan Kambrium.

Para penulis berpendapat bahwa “agensi organisme adalah prasyarat mendasar untuk evolusi terbuka.” Mereka mengatakan bahwa tanpa organisme menjalankan hak pilihan mereka pada lingkungan yang mereka rasakan, “evolusi tidak dapat melampaui ruang kemungkinan yang telah ditentukan sebelumnya.” 

Jika mereka benar, alasan mengapa hewan muncul tiba-tiba selama ledakan Kambrium adalah karena nenek moyang mereka dapat memanfaatkan apa yang disediakan lingkungan mereka (hipotesis populer menunjukkan bahwa itu adalah kenaikan kadar oksigen ). 

Klaim paling menantang yang dibuat oleh penelitian ini adalah bahwa mencapai AGI tidak mungkin dilakukan dengan algoritme seperti yang kita kenal. Kekhawatiran seputar AGI mengambil alih dunia, dengan demikian, sampai saat ini belum berdasar.