ChatGPT згенерував недійсні судові справи для юриста з США
У США адвокат використав ChatGPT, готуючи позов проти авіакомпанії, та отримав чимало недійсних судових кейсів. Добром це не скінчилося.
Історія спочатку з’явилась у Twitter, а потім у New York Times.
Роберто Мата подав до суду на авіакомпанію Avianca через травму коліна, яку він отримав нібито під час авіарейсу, коли його вдарив візок для сервірування.
Адвокати Мата надали підтвердження на 10 сторінок, у якому цитувалися понад 10 відповідних судових рішень. Там були, наприклад, справи Мартінес проти Delta Air Lines, Цікерман проти Korean Air Lines та Варгезе проти China Southern Airlines.
Тільки от ані юристи авіакомпанії, ані сам суддя не знайшли рішення чи цитати, наведені у записці.
Адвокат з 30-річною практикою довірився ШІ
Усе вигадав ChatGPT, саме з ним працював юрист Стівен А. Шварц з фірми Levidow, Levidow & Oberman.
Минулого четверга, 25 травня, він письмово під присягою підтвердив, що для проведення своїх юридичних досліджень використав програму штучного інтелекту — «джерело, яке виявилося ненадійним».
Шварц, який мав адвокатську практику в Нью-Йорку протягом трьох десятиліть, визнав, що ніколи до того не використовував ChatGPT, «тому не знав, що його дані можуть бути неправдивими».
Він навіть попросив програму перевірити, чи справи справжні. Звісно, ChatGPT усе підтвердив!
Суд відтермінував розгляд санкцій проти адвоката та ШІ на 10 днів
Суддя Кевін Кастель у постанові зазначив, що отримав «безпрецедентну обставину», юридичне подання, повне «фальшивих судових рішень, з фальшивими цитатами та фальшивими внутрішніми цитатами».
На 8 червня призначили нове слухання для обговорення можливих санкцій.
ШІ поки що не може замінити адвокатський досвід
«А все тому, що треба було використовувати спеціальну версію LLM, треновану на юридичних документах, яка не галюцинує і надає лінки на джерела. Не шукав LLM для права, але бачив подібні інструменти для наукової роботи, наприклад Perplexity», – коментує Андрій Бродецький.
Тому, іронізує NYT, білі комірці поки що можуть спати спокійно: має пройти трохи часу, перш ніж роботи захоплять їхню роботу.
Нагадаємо, SPEKA писала, що розробник ChatGPT OpenAI виділить $1 млн на розроблення регулювання ШІ.
