Адвокаты Стивен А. Шварц и Питер ЛоДука подали иск против авиакомпании Avianca от имени своего клиента, который получил серьезную травму во время полета в 2019 году. Они использовали ChatGPT, чтобы найти юридические прецеденты, подтверждающие их аргументацию. По итогу, они использовали ссылки на несуществующие судебные дела, которые были созданы самим искусственным интеллектом. Адвокаты обвинили чат-бот в том, что они были обмануты программой и не думали, что нейросеть предоставила фиктивные дела.

Пока неизвестно, будут ли на юристов наложены санкции за использование искусственного интеллекта в юридических исследованиях. Но это заставило всех обратить внимание на надежность ИИ и важность проверки всех материалов экспертами. Это первый случай, когда такая проблема возникла, и он вызывает серьезные вопросы относительно того, какой должна быть роль у ИИ в юридическом процессе и какой уровень ответственности должны нести юристы за свои действия.