CEO Anthropic, Dario Amodei, menyerukan perlambatan laju peningkatan kemampuan model kecerdasan buatan (AI). Seruan itu muncul di tengah kekhawatiran yang meningkat soal risiko teknologi tersebut.
Amodei menyampaikan pandangan itu melalui situs web pribadinya. Menurutnya, kemajuan AI akan tetap berlangsung cepat sehingga waktu tambahan perlu dimanfaatkan dengan bijak.
Sebagai kepala perusahaan pengembang chatbot Claude, Amodei lama dikenal sebagai pendukung pengembangan AI. Namun, ia juga berulang kali memperingatkan bahaya yang menyertainya.
Risiko yang Diperingatkan Amodei
Dalam artikelnya, Amodei menilai manusia dapat kehilangan kendali atas AI. Teknologi itu juga disebut bisa dieksploitasi untuk serangan siber, bioterorisme, dan gangguan serius terhadap perekonomian.
Ia mendesak para pemimpin industri bekerja sama menghindari kesalahan arah. Tujuannya agar risiko AI tidak membahayakan umat manusia.
Amodei memperingatkan, jika langkah perlambatan terlalu lambat, orang yang salah berpotensi mengendalikan teknologi ini. Kondisi itu dinilainya dapat meningkatkan risiko konsekuensi yang tidak diinginkan.
Ia juga menyoroti potensi AI berkembang sangat pesat.
Sekelompok aktor AI disebutnya bisa mengendalikan seluruh internet hanya dalam 6-12 bulan dan menyebabkan kerugian ratusan miliar dolar.
Meski begitu, Amodei menilai AI tetap dapat membawa perubahan positif bagi umat manusia. Karena itu, ia menekankan pentingnya pengelolaan risiko secara serius.
