CEO OpenAI Sam Altman membongkar informasi yang mengungkap dampak keuangan besar pada ChatGPT, yang bisa mencapai ratusan juta rupiah. Ternyata, hanya dengan kata-kata sederhana seperti ‘Tolong’ dan ‘Terima Kasih’ dapat membuat perusahaan mengeluarkan biaya listrik yang sangat tinggi. Meskipun Altman tidak secara spesifik menyebutkan kerugian yang pasti, dia menyatakan bahwa puluhan juta dolar telah dihabiskan dengan baik tanpa rincian lebih lanjut.
Chatbot seperti ChatGPT milik OpenAI membutuhkan infrastruktur komputasi yang menggunakan ribuan GPU tinggi. GPU ini diperlukan untuk menginterpretasikan permintaan dan memberikan respon kepada pengguna. Dalam mengoprasikan platformnya, perusahaan harus menanggung biaya listrik yang besar terutama saat terhubung dengan pusat data. Sebuah respon tunggal dari model ini bisa menggunakan 0,14 kWh, setara dengan tenaga untuk 14 lampu LED yang menyala selama satu jam.
Interaksi yang terjadi di platform ini dapat mencapai miliaran kali setiap hari, sehingga penggunaan listrik menjadi sangat signifikan, bahkan menyumbang 2% dari total konsumsi listrik global. Para ahli memperkirakan adanya peningkatan signifikan konsumsi listrik ini di masa depan seiring dengan perkembangan aplikasi AI yang semakin pesat. Meskipun pendapat terbagi, Direktur tim desain untuk Microsoft Copilot, Kurtis Beavers, mengatakan bahwa interaksi sopan terhadap chatbot dapat memengaruhi output dan nada interaksi yang dihasilkan oleh model ini.
