Tiêu tốn năng lượng khủng của Bing AI: Hậu quả của việc sử dụng mô hình ngôn ngữ lớn

10/08/2023 - 14:44 (GMT+7)

Một nghiên cứu gần đây của công ty TRG Datacenters (Mỹ) đã phân tích mức độ tiêu thụ điện năng của các công cụ trò chuyện dựa vào trí tuệ nhân tạo (AI). Kết quả cho thấy, trong số các lựa chọn phổ biến hiện nay, Bing AI của Microsoft là công cụ tiêu tốn năng lượng nhất.

(Ảnh minh họa)

Cụ thể, theo số liệu thống kê về mức độ sử dụng, ChatGPT của OpenAI là ứng dụng được sử dụng phổ biến nhất, với khoảng 16 triệu lượt truy vấn mỗi tháng. Trong khi đó, Google Bard chỉ nhận được khoảng 201.000 lượt truy vấn hàng tháng.

Tuy nhiên, khi tính toán mức tiêu thụ điện năng, nghiên cứu này đã phát hiện ra rằng Bing AI lại là công cụ "ngốn" điện nhiều nhất, với tổng cộng 7.200 MWh. Con số này cao hơn 20 lần so với mức tiêu thụ của Google Bard.

Các nhà nghiên cứu giải thích điều này là do Bing AI sử dụng mô hình ngôn ngữ lớn (LLM) GPT-4, do OpenAI phát triển, có 100 nghìn tỷ tham số, gấp 5,8 lần so với GPT-3. Trong khi đó Google Bard lại sử dụng chip TPUv4 tiết kiệm điện do chính Google phát triển, nên chỉ tiêu thụ 312 MWh, ít hơn 20 lần so với Bing.

Những phát hiện của nghiên cứu này thúc giục cả các nhà phát triển và người dùng cân nhắc tác động môi trường khi triển khai các công nghệ AI trong tương lai.


Gia Hiếu (Lược dịch theo fagenwasanni.com) 10/08/2023 - 14:44 (GMT+7)
Share

Tổng giám đốc EVN tiếp và làm việc với Đại sứ Hoa Kỳ tại Việt Nam

Tổng giám đốc EVN tiếp và làm việc với Đại sứ Hoa Kỳ tại Việt Nam

Chiều 19/11, tại Hà Nội, Tổng giám đốc Tập đoàn Điện lực Việt Nam (EVN) Nguyễn Anh Tuấn tiếp và làm việc với Đại sứ Hoa Kỳ tại Việt Nam - bà Jennifer Wicks. Hai bên trao đổi về cơ hội hợp tác giữa EVN và các doanh nghiệp Hoa Kỳ trong lĩnh vực điện lực.


Văn hóa học tập trong EVN: Khi đồng nghiệp cũng là thầy

Văn hóa học tập trong EVN: Khi đồng nghiệp cũng là thầy

Từ những trao đổi, hướng dẫn trong công việc, đội ngũ giảng viên nội bộ EVN giúp đồng nghiệp nâng cao năng lực, hoàn thiện chuyên môn. Qua đó, góp phần bồi đắp văn hóa học tập, gìn giữ và phát triển tri thức trong Tập đoàn.


Điện cho APEC 2027: Khẩn trương đầu tư hạ tầng cung cấp điện với dự phòng cao

Điện cho APEC 2027: Khẩn trương đầu tư hạ tầng cung cấp điện với dự phòng cao

Hạ tầng lưới cấp điện cho Phú Quốc cơ bản đã vững, nhưng nỗ lực bảo đảm điện cho Hội nghị APEC 2027 không chỉ dừng ở công tác xây dựng. Tập đoàn Điện lực Việt Nam (EVN) và Tổng công ty Điện lực miền Nam (EVNSPC) tiếp tục chủ động rà soát các kịch bản vận hành, hoàn thiện phương án xử lý cho mọi tình huống, quyết tâm bảo đảm cấp điện an toàn, tin cậy tuyệt đối cho Hội nghị.


EVN đồng hành cùng chương trình phủ sóng di động tại các thôn, bản và cụm dân cư lõm sóng ở vùng sâu, vùng xa, biên giới

EVN đồng hành cùng chương trình phủ sóng di động tại các thôn, bản và cụm dân cư lõm sóng ở vùng sâu, vùng xa, biên giới

Để góp phần xóa “lõm sóng”, Tập đoàn Điện lực Việt Nam (EVN) đã phối hợp với Tập đoàn Công nghiệp – Viễn thông Quân đội (Viettel) và các đơn vị liên quan bảo đảm nguồn điện cho các trạm phát sóng di động (BTS) ở vùng sâu, vùng xa và khu vực biên giới.