Para peneliti dari Berkeley dan University of Oxford mengatakan bahwa kecerdasan buatan atau AI akan semakin canggih. Dalam waktu dekat, AI diprediksi mampu membuat lagu top 40, menulis buku best seller, merakit mainan Lego, menerjemahkan bahasa baru, hingga membuat video game sebelum tahun 2030.
Pada tahun 2063, para peneliti memperkirakan AI dapat melakukan pekerjaan seperti seorang ahli bedah atau bahkan peneliti AI. Survei yang melibatkan 2.778 peneliti yang meneliti AI, sebanyak 68% mengatakan bahwa AI akan memberikan dampak baik dibandingkan buruk kepada manusia. Namun, ada kemungkinan AI menjadi “kiamat” baru bagi manusia. Para peneliti memperkirakan adanya kemungkinan 10% bahwa manusia akan gagal mengendalikan AI dan hal ini berujung pada kepunahan manusia.
Di antara para peneliti, ada kesepakatan untuk fokus pada meminimalisir risiko dalam pengembangan AI. Akan tetapi, suara para peneliti terbelah antara yang ingin mempercepat atau sedikit menahan pengembangan AI. Lebih dari 80% peneliti AI mengatakan bahwa hal yang paling substantial mengenai AI adalah kemampuan menyebar informasi keliru.
Pada Desember, OpenAI merilis makalah pertamanya tentang menyelaraskan AI super dengan nilai-nilai kemanusiaan. Anthropic memiliki konstitusi yang mengatur sistem AI untuk memastikan mereka bertindak sejalan dengan aturan masyarakat. Namun, metode tersebut belum tentu dapat diterapkan pada model AI yang lebih pintar dari manusia karena AI yang ada saat ini masih belum begitu pintar.
