Доверие к искусственному интеллекту сыграло злую шутку с американским адвокатом Стивеном Ааронсом. Верховный суд штата Нью-Мексико обязал юриста выплатить штраф в размере пяти тысяч долларов за использование сфабрикованных данных в судебной апелляции, сообщает агентство Reuters.
Суть нарушения
Готовя документы по делу своего клиента, Ааронс решил прибегнуть к помощи ChatGPT. Однако результат оказался катастрофическим: чат-бот «наполнил» апелляцию вымышленными свидетельскими показаниями полицейских и деталями преступления, которые никогда не фигурировали в материалах следствия. Юрист оправдывался тем, что не предполагал возможности столь масштабной фабрикации фактов со стороны ИИ, однако это не избавило его от ответственности.
Вердикт правосудия
Суд признал действия адвоката неуважением к правосудию и инициировал дисциплинарное разбирательство. В ходе процесса судьи жестко раскритиковали Ааронса за профессиональную халатность. По мнению суда, юрист проявил преступное легкомыслие, не проверив достоверность представленных данных и поставив под удар интересы собственного клиента.
Почему это стало системной проблемой?
Случай с Ааронсом — далеко не единственный. С начала 2023 года суды по всей территории США фиксируют десятки аналогичных инцидентов. Адвокаты регулярно пытаются использовать чат-боты для подготовки документов, не подозревая, что языковые модели склонны к так называемым «галлюцинациям». Нейросети способны с пугающей уверенностью генерировать несуществующие судебные прецеденты, цитаты и вымышленные правовые нормы.
В таких штатах, как Нью-Йорк и Техас, подобные ошибки уже приводили к крупным штрафам и даже временному отстранению юристов от практики. Американская правовая система неумолима: вся ответственность за содержание документов лежит исключительно на человеке. Профессиональные стандарты требуют от юристов тщательной верификации любой информации, поэтому попытка списать ложь на «ошибку алгоритма» в суде не принимается в качестве оправдания.
