Berkembangnya AI telah membuat banyak orang lebih mengandalkan teknologi ini tanpa memeriksa kebenarannya. Namun, bos OpenAI, Sam Altman, menyarankan untuk tidak sepenuhnya percaya pada ChatGPT. Chatbot populer ini rentan terhadap halusinasi dan tidak dapat diandalkan. Altman menekankan bahwa tingkat kepercayaan yang tinggi pada ChatGPT seharusnya diimbangi dengan kesadaran bahwa AI juga dapat berhalusinasi.
Halusinasi dalam chatbot AI terjadi karena sejumlah faktor, seperti data pelatihan yang bias, kurangnya pengetahuan akan dunia nyata, tekanan untuk terus memberikan respon, dan penggunaan teks prediktif. Altman juga menyatakan bahwa meskipun anak-anaknya mungkin tidak lebih pintar dari AI saat ini, mereka diprediksi akan melampaui prestasi orang tua mereka pada masa depan.
Selain itu, Altman juga membahas kemungkinan iklan masuk ke dalam ChatGPT. Meskipun sulit untuk diimplementasikan, dia tidak menentang ide tersebut dan bahkan memuji iklan yang muncul di Instagram. Namun, Altman menekankan bahwa implementasi iklan harus dilakukan dengan hati-hati agar tidak mengganggu pengalaman pengguna. Beban pembuktian akan sangat tinggi dan harus memberikan manfaat yang jelas bagi pengguna tanpa merusak pengalaman menggunakan ChatGPT secara keseluruhan.
