Anthropic дозволить дітям використовувати ШІ, але з обмеженнями
ШІ-стартап Anthropic оновив політики та дозволив неповнолітнім використовувати його генеративні системи штучного інтелекту, щоправда, за певних обмежень. Як компанія повідомила в офіційному блозі, зміни набувають сили 6 червня 2024 року.
Anthropic дозволить підліткам і дітям використовувати програми сторонніх розробників (не обов’язково власні програми), що працюють на основі моделей ШІ, за умови, що розробники цих програм реалізують спеціальні функції безпеки та повідомляти користувачам, які технології від Anthropic вони використовують.
Як розробники ШІ мають убезпечити дітей та підлітків
Компанія назвала заходи безпеки, які мають застосувати розробники ШВ-програм для неповнолітніх:
- системи перевірки віку,
- модерація та фільтрація вмісту;
- освітні ресурси щодо «безпечного та відповідального» використання штучного інтелекту для неповнолітніх;
- адаптація ШІ-продукту для неповнолітніх через впровадження «підказки від системи безпеки дітей».
Розробники, які використовують ШІ-моделі Anthropic, також мають дотримуватися існуючих правил безпеки дітей і конфіденційності даних, таких як Закон про захист конфіденційності дітей в Інтернеті (COPPA), федеральний закон США, який захищає конфіденційність дітей віком до 13 років в Інтернеті.
Anthropic планує періодично перевіряти додатки на відповідність вимогам, призупиняти або закривати облікові записи тих, хто неодноразово порушує вимоги відповідності, і вимагати, щоб розробники «чітко зазначали» на загальнодоступних сайтах або в документації, що вони відповідають вимогам.
Чому Anthropic відкриває свої ШІ-моделі для неповнолітніх
Компанія дуже вчасно оновлює політику щодо дітей та підлітків. Школяри та студенти все частіше використовують інструменти генеративного штучного інтелекту не тільки для навчання у школі чи коледжі, але й у особистих питаннях.
Конкуренти Anthropic, зокрема Google і OpenAI, давно розробляють нові варіанти використання ШІ для дітей та підлітків.
У 2024-му OpenAI вже створив команду з питань безпеки дітей та запартнерився з Common Sense Media для розробки рекомендацій щодо дружнього до дітей ШІ.
Google відкрив свій чат-бот Gemini (екс-Bard) для підлітків англійською мовою в окремих регіонах.
Як діти та підлітки використовують ШІ
Як повідомляє TechCrunch з посиланням на опитування Центру демократії та технологій:
- 29% дітей використовували генеративний ШІ, наприклад, ChatGPT OpenAI, для вирішення проблем тривоги чи психічного здоров’я;
- 22% – для вирішення проблем із друзями;
- 16% – для вирішення сімейних конфліктів.
Минулого року школи та коледжі в США заборонили ChatGPT та інші генеративні програми ШІ через побоювання плагіату та фейків.
За даними Центру безпечного Інтернету Великобританії, 53% дітей бачили, як їхні однолітки за допомогою ШІ створюють фейкові пости або зображення, щоб засмутити когось – включаючи порнографічні дипфейки.
ЮНЕСКО наприкінці 2023 року заявила, що уряди мають регулювати використання генеративного штучного інтелекту в освіті, включаючи вікові обмеження для користувачів і для захисту даних і конфіденційності.
