Sullivan & Cromwell вибачилися перед судом після того, як ШІ згенерував хибні юридичні посилання

TLDR

• Престижна юридична фірма подала до суду документ із посиланнями, сфабрикованими ШІ

• Sullivan & Cromwell визнає збої у верифікації у справі про банкрутство

• Неточності, згенеровані ШІ, скомпрометували подання до федерального суду

• Протилежна сторона виявила сфабриковані прецеденти у судовому документі

• Інцидент підкреслює нагальну потребу в посилених протоколах валідації ШІ

Юридична спільнота знову зіткнулася зі скрутиніємщодо надійності штучного інтелекту після серйозної помилки елітної американської юридичної фірми. Sullivan & Cromwell публічно визнала, що подала до суду документ, рясніючий сфабрикованими ШІ посиланнями на справи та неточними правовими посиланнями. Інцидент спонукав фірму провести комплексне внутрішнє розслідування своїх засобів захисту у сфері штучного інтелекту.

Сфабриковані посилання скомпрометували подання до федерального суду

Престижна юридична фірма виявила суттєві недоліки в документі про банкрутство за розділом 15, пов'язаному з судовим процесом Prince Group. Системи штучного інтелекту створили вигадані посилання на справи та неправильно проаналізували положення законодавства США про банкрутство. Ці фабрикації були включені до матеріалів, поданих до федерального суду з банкрутства Нью-Йорка.

Ендрю Дітдеріх, який очолює відділ реструктуризації фірми, взяв на себе особисту відповідальність за недоліки документа. Він підтвердив, що попри наявність у фірмі встановлених інструкцій щодо використання ШІ, ці протоколи не дотримувались під час підготовки цього конкретного документа. Відтоді організація вжила виправних заходів, щоб уникнути повторення помилок, керованих ШІ, у наступних судових поданнях.

Boies Schiller Flexner, діючи від імені протилежних сторін, виявила розбіжності та довела їх до відома суду. Їхня перевірка виявила, що певні згадані справи були повністю неіснуючими або посилались на абсолютно не пов'язані судові рішення. Внаслідок цього фірма подала виправлену версію з анотаціями, що чітко ідентифікують помилки, створені ШІ.

Збої у верифікації виявляють системні проблеми ШІ

Цей епізод демонструє поширені труднощі, з якими стикаються юридичні фірми, що впроваджують штучний інтелект для підвищення продуктивності та управління навантаженням. Численні юридичні практики використовують системи ШІ для правових досліджень і підготовки документів, однак недостатні протоколи верифікації продовжують створювати вразливості. Правники змушені балансувати між операційною ефективністю та точністю під час впровадження ШІ у робочі процеси своєї практики.

Sullivan & Cromwell заявила, що дотримується суворих політик використання ШІ, включно з обов'язковою перевіркою вручну всіх матеріалів, згенерованих ШІ. Фірма визнала, що механізми контролю якості дали збій під час цієї справи, дозволивши дефектному контенту пройти без перевірки. Інцидент посилив аналіз систем управління штучним інтелектом у критичних правових контекстах.

Галузеві дані свідчать про зростаючу частоту галюцинацій ШІ, що з'являються в судових поданнях, особливо пов'язаних із вигаданими правовими прецедентами. Дослідження фіксують понад 1 300 таких випадків у всьому світі, причому більшість зосереджена в американських судах. Ця нова тенденція підкреслює необхідність більш суворих механізмів автентифікації під час використання ШІ у процесах підготовки правових документів.

Наслідки виходять за межі окремого інциденту

Судовий процес Prince Group зосереджений на звинуваченнях у масштабних шахрайських схемах, що охоплюють практику примусової праці та фінансові зловживання. Прокурори США ініціювали як кримінальне провадження, так і зусилля з конфіскації майна, пов'язані з діяльністю організації. Відповідно, точність у правових документах стає першочерговою у справах, що стосуються складних транснаціональних обвинувачень.

Sullivan & Cromwell раніше представляла клієнтів у резонансних справах, включно з провадженням про неплатоспроможність біржі FTX. Фірма встановлює преміальні тарифи та веде складні справи з реорганізації, що охоплюють кілька правових юрисдикцій. Цей збій, пов'язаний із ШІ, породив запити щодо контролю якості у великих юридичних підприємствах.

Фірма підтримує своє поточне внутрішнє розслідування, одночасно переглядаючи освітні програми та системи відповідності, що регулюють розгортання штучного інтелекту. Її мета включає зміцнення захисних заходів і підвищення відповідальності протягом усього робочого процесу підготовки документів. З прискоренням інтеграції штучного інтелекту юридична галузь стикається зі зростаючими очікуваннями щодо гарантування надійності та усунення дорогих помилок.

Публікація Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations вперше з'явилася на Blockonomi.