Tiêu tốn năng lượng khủng của Bing AI: Hậu quả của việc sử dụng mô hình ngôn ngữ lớn

14:44, 10/08/2023

Một nghiên cứu gần đây của công ty TRG Datacenters (Mỹ) đã phân tích mức độ tiêu thụ điện năng của các công cụ trò chuyện dựa vào trí tuệ nhân tạo (AI). Kết quả cho thấy, trong số các lựa chọn phổ biến hiện nay, Bing AI của Microsoft là công cụ tiêu tốn năng lượng nhất.

(Ảnh minh họa)

Cụ thể, theo số liệu thống kê về mức độ sử dụng, ChatGPT của OpenAI là ứng dụng được sử dụng phổ biến nhất, với khoảng 16 triệu lượt truy vấn mỗi tháng. Trong khi đó, Google Bard chỉ nhận được khoảng 201.000 lượt truy vấn hàng tháng.

Tuy nhiên, khi tính toán mức tiêu thụ điện năng, nghiên cứu này đã phát hiện ra rằng Bing AI lại là công cụ "ngốn" điện nhiều nhất, với tổng cộng 7.200 MWh. Con số này cao hơn 20 lần so với mức tiêu thụ của Google Bard.

Các nhà nghiên cứu giải thích điều này là do Bing AI sử dụng mô hình ngôn ngữ lớn (LLM) GPT-4, do OpenAI phát triển, có 100 nghìn tỷ tham số, gấp 5,8 lần so với GPT-3. Trong khi đó Google Bard lại sử dụng chip TPUv4 tiết kiệm điện do chính Google phát triển, nên chỉ tiêu thụ 312 MWh, ít hơn 20 lần so với Bing.

Những phát hiện của nghiên cứu này thúc giục cả các nhà phát triển và người dùng cân nhắc tác động môi trường khi triển khai các công nghệ AI trong tương lai.


Gia Hiếu (Lược dịch theo fagenwasanni.com)

Share

Đảm bảo nguồn cung than cho các nhà máy nhiệt điện trong EVN 6 tháng cuối năm

Đảm bảo nguồn cung than cho các nhà máy nhiệt điện trong EVN 6 tháng cuối năm

Ngày 11/7, tại Hà Nội, Tập đoàn Điện lực Việt Nam (EVN) và Tập đoàn Công nghiệp Than – Khoáng sản Việt Nam (TKV) họp bàn về kế hoạch cung cấp than cho sản xuất điện 6 tháng cuối năm 2025.


EVNSPC đóng điện 72 công trình 110kV trong nửa đầu năm

EVNSPC đóng điện 72 công trình 110kV trong nửa đầu năm

Hoàn thành đóng điện 72 công trình 110kV là một kết quả nổi bật về công tác đầu tư xây dựng của Tổng công ty Điện lực miền Nam (EVNSPC) trong 6 tháng vừa qua.


EVN và Hyosung (Hàn Quốc) trao đổi các nội dung hợp tác

EVN và Hyosung (Hàn Quốc) trao đổi các nội dung hợp tác

Chiều 11/7, tại Hà Nội, Tổng giám đốc Tập đoàn Điện lực Việt Nam (EVN) Nguyễn Anh Tuấn đã tiếp và làm việc với đoàn công tác của Tập đoàn Công nghiệp nặng Hyosung (Hàn Quốc), nhằm thống nhất các định hướng và nội dung hợp tác giữa hai bên. Cuộc họp được tổ chức theo hình thức trực tiếp và trực tuyến.


Dự án Nhiệt điện Quảng Trạch I: Phấn đấu đốt dầu tổ máy 1 đúng ngày 19/8/2025

Dự án Nhiệt điện Quảng Trạch I: Phấn đấu đốt dầu tổ máy 1 đúng ngày 19/8/2025

Dự án Nhà máy Nhiệt điện Quảng Trạch I (xã Phú Trạch, tỉnh Quảng Trị) đang tiến sát đến mốc đốt dầu lần đầu tổ máy số 1. Dưới đây là chùm ảnh được thực hiện trong các ngày 11-12/7/2025.


Dự án Nhiệt điện Quảng Trạch I: Phấn đấu đốt dầu tổ máy 1 đúng ngày 19/8/2025

Dự án Nhiệt điện Quảng Trạch I: Phấn đấu đốt dầu tổ máy 1 đúng ngày 19/8/2025

Dự án Nhà máy Nhiệt điện Quảng Trạch I (xã Phú Trạch, tỉnh Quảng Trị) đang tiến sát đến mốc đốt dầu lần đầu tổ máy số 1. Dưới đây là chùm ảnh được thực hiện trong các ngày 11-12/7/2025.