Một câu lệnh AI tốn bao nhiêu năng lượng?

Điều này tương đương 0,24 watt-giờ và 5 giọt nước, tức khoảng 0,25 ml để làm mát hệ thống cung cấp điện.

Nhiều năm qua, vấn đề hệ thống AI tiêu thụ quá nhiều điện và nước đã được nêu ra. Các ông lớn đang tìm cách trấn an, rằng trung tâm dữ liệu (data center) đang làm việc ngày càng hiệu quả hơn.

OpenAI, công ty xây dựng lên ứng dụng ChatGPT cho biết vào tháng 6 vừa qua rằng, một câu lệnh trung bình tiêu thụ 0,34 watt-giờ, gần bằng 1 cái lò nướng hoạt động trong 1 giây.

Thời gian gần đây, nhờ tiến bộ trong công nghệ chip và máy chủ, các truy vấn riêng lẻ ngày càng tiêu tốn ít năng lượng. Tuy nhiên khối lượng dữ liệu để AI tham chiếu lại tăng theo từng giây, thậm chí tăng gấp nhiều lần trong thời gian ngắn, nên nhu cầu tiêu thụ điện cũng lớn dần. Giờ đây mỗi câu lệnh truy vấn, các hệ thống AI có thể phải thực hiện hàng tỷ tính toán mới ra được kết quả.

Số liệu Google và OpenAI chia sẻ, đều không nhắc tới lượng điện khổng lồ cần dùng trong quá trình đào tạo ban đầu cho các mô hình AI.

(Biên dịch: NVP)