Упс! Не вдала спроба:(
Будь ласка, спробуйте ще раз.

Електромережі не витримують ШІ

Олеся Дерзська
Олеся Дерзська
21 травня 2024 2 хвилин читання

Доктор Саша Луччіоні, дослідниця етичного ШІ з Hugging Face, компанії-виробника інструментів машинного навчання, стверджує, що ШІ-запити є загрозою для електромереж. Вони просто не витримують запитів генеративного штучного інтелекту, повідомляє BBC.

Незграбні моделі та велика кількість електроенергії для ШІ

Ядром багатьох моделей генеративного ШІ є Large Language Models (LLMs) — моделі, що базуються на моделі-трансформері та отримують, кодують, та декодують дані для отримання вихідного прогнозу.

Кожного разу, коли ви надсилаєте запит моделі генеративного штучного інтелекту, активується майже все, тож це надто неефективно з погляду обчислень
Саша Луччіоні 

Луччіоні наголосила, що це — не те саме, що використовувати персональний комп'ютер або телефон, адже електромереж загалом працюють від гігантських центрів даних, які більшість людей не бачить. коли ви думаєте про хмар, каже вона, ви не розумієте, які обсяги даних знаходяться у цих гігантських центрах даних.

Як зменшити кількість споживаної електроенергії, використовуючи технології ШІ?

Nvidia каже, що в майбутньому вони зможуть навчити ШІ, що у кілька разів більш потужний, ніж найбільші знані на сьогодні системи ШІ, за 90 днів, використовуючи 8 тис. чипів Nvidia попереднього покоління. Для цього компанії знадобилось би 15 мегаватів електроенергії.

Проте той самий обсяг роботи можна зробити, використовуючи 2 тис. чипів Grace Blackwell, і їм знадобилося б потужності у чотири мегавати, зазначили у Nvidia. 

Доктор Луччіоні додала, що краще обирати ШІ-моделі, що споживають менше електроенергії, проте є ефективними, як от A+ Energy Star.

0
Прокоментувати
Інші матеріали

Компанія OpenAI купує стартап Rockset за сотні $ млн

Владислав Паливода 2 години тому

ШІ-інструменти в смартфонах збиратимуть більше даних користувачів

Олеся Дерзська 7 годин тому

Meta запускає ШІ-чатбот на базі Llama-3 для всіх користувачів в Індії

Вікторія Рудзінська 11 годин тому

TikTok випадково виклав ШІ-інструмент, що дозволяв створювати відео з мовою ворожнечі

Вікторія Рудзінська 15 годин тому

Viber запровадив ШІ-зміст в усіх чатах

Олеся Дерзська 21 червня 2024 19:15