Южноафриканские юристы усвоили тяжелый урок из художественной литературы об искусственном интеллекте

Южноафриканский В январе 2025 года судебное дело попало в заголовки газет по совершенно неправильным причинам. Мавундла против MEC: Департамент кооперативного правительства и традиционных дел Квазулу-Натала и другие полагались на прецедентное право, которого просто не существовало. Его создал ChatGPT, чат-бот с генеративным искусственным интеллектом, разработанный ОпенАИ.

Только два из девяти дел, которые команда юристов представила в высокий суд, были подлинными. Остальные были сфабрикованными ИИ «галлюцинациями». Суд назвал такое поведение «безответственный и непрофессиональныйи передал дело в Совет юридической практики, уставный орган, регулирующий деятельность практикующих юристов в Южной Африке, для расследования.

Это не первый раз, когда южноафриканские суды сталкиваются с подобным инцидентом. Паркер против Форсайта в 2023 году также занимался фальшивыми прецедентами, созданными ChatGPT. Но в этом случае судья был более снисходительным, не обнаружив умысла ввести в заблуждение. Решение Мавундлы знаменует собой поворотный момент: суды теряют терпение к практикующим юристам, которые безответственно используют ИИ.

Мы – ученые-юристы, которые занимаются исследовать о растущем использовании ИИ, особенно генеративного ИИ, в юридических исследованиях и образовании. Хотя эти технологии предлагают мощные инструменты для повышения эффективности и производительности, они также представляют собой серьезные риски при безответственном использовании.

Начинающие юристы, злоупотребляющие инструментами искусственного интеллекта без надлежащего руководства или этического обоснования, рискуют столкнуться с серьезными профессиональными последствиями еще до начала своей карьеры. Юридические школы должны обучать студентов навыкам и рассудительности, позволяющим ответственно использовать инструменты ИИ. Но большинство учреждений по-прежнему не готовы к темпам внедрения ИИ.

Очень немногие университеты имеют официальную политику или обучение в области ИИ. Студенты остаются без проводника в этой быстро меняющейся местности. Наша работа требует активного и структурированного подхода к образованию в области ИИ в юридических школах.

Когда технологии становятся обузой

Адвокат в Мавундле дело принято она не проверяла цитаты и вместо этого полагалась на исследования, проведенные младшим коллегой. Этот коллега, кандидат в адвокаты, заявил, что получил материал из онлайн-исследовательского инструмента. Хотя она отрицала использование ChatGPT, ситуация аналогична аналогичным глобальным инцидентам, когда юристы по незнанию выносили решения, сгенерированные искусственным интеллектом.

В американском случае 2024 г. Пак против Кимадвокат сослалась на несуществующую судебную практику в своем кратком ответе, который, как она признала, был создан с помощью ChatGPT. В канадском деле 2024 г. Чжан против ЧенаАдвокат подал заявление о заявлении, содержащее два несуществующих органа по делу, сфабрикованные ЧатГПТ.

Читать: Китайская компания DeepSeek предупреждает о социальных потрясениях из-за искусственного интеллекта

Суд в Мавундле был однозначен: какими бы продвинутыми ни были технологии, юристы по-прежнему несут ответственность за то, чтобы каждый представленный ими источник был точным. Рабочая нагрузка или незнание рисков, связанных с ИИ, не являются защитой.

Судья также раскритиковал надзирающего адвоката за то, что он не проверил документы перед их подачей. Этот эпизод подчеркнул более широкий этический принцип: старшие юристы должны должным образом обучать младших коллег и контролировать их.

Урок здесь выходит далеко за рамки одной юридической фирмы. Честность, точность и критическое мышление не являются обязательными дополнениями в юридической профессии. Это основные ценности, которым необходимо обучать и практиковать с самого начала, во время юридического образования.

Класс – это первый зал суда

Случай Мавундлы должен послужить предупреждением университетам. Если опытные практикующие юристы могут попасть в ловушки ИИ в отношении права, то и студенты, которые еще учатся исследовать и рассуждать, тоже могут попасть в ловушки ИИ.

Генеративные инструменты искусственного интеллекта, такие как ChatGPT, могут быть мощными союзниками: они могут обобщать дела, формулировать аргументы и анализировать сложные тексты за считанные секунды. Но они также могут уверенно фабриковать информацию. Потому что модели ИИ не всегда «знают», когда они неправильныйони создают текст, который выглядит авторитетным, но может быть полностью ложным.

Для студентов опасность двоякая. Во-первых, чрезмерная зависимость от ИИ может замедлить развитие критически важных исследовательских навыков. Во-вторых, это может привести к серьезным академическим или профессиональным нарушениям. Студент, который отправляет контент, созданный с помощью ИИ, может столкнуться с дисциплинарными мерами в университете и нанести ущерб репутации, который повлечет за собой его юридическую карьеру.

В нашей статье мы утверждаем, что вместо полного запрета инструментов ИИ юридические школы должны учить студентов использовать их ответственно. Это означает развитие «грамотности в области ИИ»: способности подвергать сомнению, проверять и контекстуализировать информацию, генерируемую ИИ. Студенты должны научиться относиться к системам ИИ как к помощникам, а не как к авторитетам.

В юридической практике Южной Африки авторитет традиционно ссылается на признанные источники, такие как законодательство, судебные прецеденты и научные комментарии, на которые юристы ссылаются в поддержку своих аргументов. Доступ к этим источникам осуществляется через существующие юридические базы данных и юридические отчеты, и этот процесс, хотя и требует много времени, обеспечивает точность, подотчетность и соблюдение верховенства закона.

От юридических факультетов до залов суда

Преподаватели-юристы могут включить грамотность в области искусственного интеллекта в существующие курсы по методологии исследований, профессиональной этике и юридическому письму. Упражнения могут включать в себя сверку сводок, созданных ИИ, с реальными суждениями или анализ этических последствий использования аргументов, созданных машиной.

Обучение ответственному использованию ИИ заключается не просто в том, чтобы избежать неловких ситуаций в суде. Речь идет о защите целостности самой системы правосудия. Как видно из дела Мавундлы, некритическое использование искусственного интеллекта одним из кандидатов в адвокаты привело к профессиональному расследованию, общественному контролю и репутационному ущербу для фирмы.

Финансовые риски также реальны. Суды могут обязать адвокатов оплачивать расходы из своего кармана в случае серьезных профессиональных нарушений. В эпоху цифровых технологий, когда судебные решения и сообщения СМИ мгновенно распространяются в Интернете, репутация юриста может рухнуть в одночасье, если будет обнаружено, что он полагался на фальшивые или непроверенные материалы ИИ. Также было бы полезно, чтобы суды были обучены выявлять фальшивые дела, созданные с помощью ИИ.

Путь вперед

Наше исследование пришло к выводу, что искусственный интеллект никуда не денется, как и его использование в законодательстве. Проблема не в том, следует ли юристам использовать ИИ, а в том, как это сделать. У юридических школ есть важнейшая возможность и этический долг подготовить будущих специалистов-практиков к миру, где технологии и человеческое суждение должны работать бок о бок.

Скорость и удобство никогда не смогут заменить точность и целостность. Поскольку ИИ становится рутинной частью юридических исследований, будущих юристов необходимо обучать не просто подсказывать, но и думать.

• Авторы — Жак Матти, старший преподаватель Университета Свободного государства, и Грей Стопфорт, преподаватель кафедры торгового права Университета Свободного государства.
• Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинальная статья

Получайте последние новости от TechCentral в WhatsApp. Зарегистрируйтесь здесь.