Американский адвокат теперь “сильно сожалеет” о том, что доверился ChatGPT OpenAI в судебном процессе. Стивену Шварцу будет предъявлено обвинение в суде Нью-Йорка за использование поддельных цитат, подготовленных с помощью инструмента искусственного интеллекта в юридических исследованиях для дела, которым он занимался.
В показаниях под присягой Шварц признался, что использовал ChatGPT в ходе разбирательства дела, представляя интересы своего клиента Роберто Маты. Он обратился в суд с иском на колумбийскую авиакомпанию Avianca за травмы, полученные на борту одного из ее самолетов в 2019 году.
Несмотря на широко известные и абсолютно явные предупреждения ChatGPT о том, что иногда он может выдавать неверную информацию, Шварц заявил, что он “не знал, что его ответы могут быть ложным».
Председательствующий судья Кевин Кастел выразил свои сомнения в подлинности представленных адвокатом дел. “Шесть из представленных дел, по-видимому, являются выдуманными судебными решениями с поддельными цитатами и поддельными внутренними ссылками”, — сказал Кастель.
В своем исследовании адвокат, который забил на проверку фактов доверился ChatGPT представил следующие дела: Варгезе против China South Airlines, Мартинес против Delta Airlines, Шабун против EgyptAir, Петерсен против Iran Air, Миллер против United Airlines и Дерден против KLM Royal Dutch Airlines.
Этих дел не существовало, заявил судья Кастель в приказе, требующем объяснения их цитирования юридической командой Маты. Было установлено, что они были сфабрикованы и содержали поддельные судебные формулировки. Даже цитаты и внутренние пояснения были просто выдумкой.
Хотя Шварц поклялся никогда в будущем не использовать искусственный интеллект для “дополнения” своих юридических исследований “без абсолютной проверки их подлинности”, теперь ему грозят санкции. Слушание по этому вопросу теперь назначено на 8 июня.
Если не забудем, то обязательно вернемся к этому случаю через недельку с небольшим 🙂
И еще раз напоминает, ИИ крут, но всегда проверяйте, что он там несет.
Использованы материалы:
https://www.phonearena.com/news/lawyer-faces-punishment-using-ai-to-enhance-brief_id147758
https://lawandcrime.com/lawsuit/lawyer-was-unaware-chatgpt-could-generate-fake-legal-research-now-faces-sanctions/
Один комментарий к “Как не самый умный адвокат доверился ChatGPT и что из этого вышло”