Tiêu tốn năng lượng khủng của Bing AI: Hậu quả của việc sử dụng mô hình ngôn ngữ lớn

10/08/2023 - 14:44 (GMT+7)

Một nghiên cứu gần đây của công ty TRG Datacenters (Mỹ) đã phân tích mức độ tiêu thụ điện năng của các công cụ trò chuyện dựa vào trí tuệ nhân tạo (AI). Kết quả cho thấy, trong số các lựa chọn phổ biến hiện nay, Bing AI của Microsoft là công cụ tiêu tốn năng lượng nhất.

(Ảnh minh họa)

Cụ thể, theo số liệu thống kê về mức độ sử dụng, ChatGPT của OpenAI là ứng dụng được sử dụng phổ biến nhất, với khoảng 16 triệu lượt truy vấn mỗi tháng. Trong khi đó, Google Bard chỉ nhận được khoảng 201.000 lượt truy vấn hàng tháng.

Tuy nhiên, khi tính toán mức tiêu thụ điện năng, nghiên cứu này đã phát hiện ra rằng Bing AI lại là công cụ "ngốn" điện nhiều nhất, với tổng cộng 7.200 MWh. Con số này cao hơn 20 lần so với mức tiêu thụ của Google Bard.

Các nhà nghiên cứu giải thích điều này là do Bing AI sử dụng mô hình ngôn ngữ lớn (LLM) GPT-4, do OpenAI phát triển, có 100 nghìn tỷ tham số, gấp 5,8 lần so với GPT-3. Trong khi đó Google Bard lại sử dụng chip TPUv4 tiết kiệm điện do chính Google phát triển, nên chỉ tiêu thụ 312 MWh, ít hơn 20 lần so với Bing.

Những phát hiện của nghiên cứu này thúc giục cả các nhà phát triển và người dùng cân nhắc tác động môi trường khi triển khai các công nghệ AI trong tương lai.


Gia Hiếu (Lược dịch theo fagenwasanni.com) 10/08/2023 - 14:44 (GMT+7)
Share


Đội bóng đá nam EVN dự Giải bóng đá thường niên Bộ Tài chính năm 2026

Đội bóng đá nam EVN dự Giải bóng đá thường niên Bộ Tài chính năm 2026

Đội bóng đá nam Tập đoàn Điện lực Việt Nam (EVN) sẽ gặp hai đội cùng bảng đến từ Tập đoàn Công nghiệp Than – Khoáng sản Việt Nam và Tổng công ty Thuốc lá Việt Nam trong hai ngày 14 và 15/11 tại Hà Nội.


Đoàn Thanh niên EVNNPC bồi dưỡng kỹ năng giao tiếp, thuyết trình và tổ chức sự kiện cho 100 cán bộ Đoàn chủ chốt

Đoàn Thanh niên EVNNPC bồi dưỡng kỹ năng giao tiếp, thuyết trình và tổ chức sự kiện cho 100 cán bộ Đoàn chủ chốt

Trong hai ngày 12-13/11, tại Thanh Hóa, Đoàn Thanh niên Tổng công ty Điện lực miền Bắc (EVNNPC) tổ chức chương trình đào tạo kỹ năng giao tiếp, thuyết trình, dẫn chương trình và tổ chức sự kiện cho 100 cán bộ Đoàn chủ chốt đến từ các đơn vị trực thuộc.


Thông báo về việc tổ chức diễn tập định kỳ năm 2026 về công tác phòng cháy chữa cháy và cứu hộ cứu nạn tại tòa nhà EVN (số 11 Cửa Bắc, Hà Nội)

Thông báo về việc tổ chức diễn tập định kỳ năm 2026 về công tác phòng cháy chữa cháy và cứu hộ cứu nạn tại tòa nhà EVN (số 11 Cửa Bắc, Hà Nội)

Để chủ động và sẵn sàng đảm bảo công tác phòng cháy chữa cháy (PCCC) và cứu hộ cứu nạn (CHCN) tại tòa nhà EVN (địa chỉ: số 11 Cửa Bắc, phường Ba Đình, TP Hà Nội), đơn vị quản lý vận hành tòa nhà EVN sẽ phối hợp một số cơ quan, đơn vị tổ chức diễn tập định kỳ năm 2026 về công tác PCCC & CHCN tại tòa nhà EVN trong các ngày 17 và 18/11/2026.