ChatGPT вместо судьи? ИИ меняет систему правосудия - например, выдумывает прецеденты
По всему миру искусственный интеллект незаметно превратился в часть системы правосудия. Зачастую ИИ используется для систематизации судебных документов из-за перегруженности судов, однако есть прецеденты, когда чат-боты напрямую влияли на вердикты судьи.
Так, в Колумбии в 2023 году расшифровка беседы с ChatGPT была использована при принятии судебного решения по делу, касающемуся лечения ребенка-аутиста. Тогда судья аргументировал это тем, что инструмент ИИ "помог ему, но не заменил его" в процессе принятия решения.
В США на двух адвокатов из Нью-Йорка было наложено взыскание за то, что они подали судебный документ, где цитировались шесть дел, сгенерированных чат-ботом - это были выдуманные прецедентные случаи, которые не происходили на самом деле.
В Индии судья прервал слушание по вопросу об освобождении под залог, чтобы ввести запрос в ChatGPT. Подсудимый обвинялся в убийстве, и судья захотел получить более полную информацию о судебной практике по вопросу освобождения под залог в случаях, когда убийство было совершено с особой жестокостью.
Основная проблема, по мнению экспертов, заключается в том, что ChatGPT и другие ИИ-модели склонны выдумывать факты и перенимать предвзятость из данных, на которых они обучались. При этом ценой ошибки чат-бота может стать человеческая жизнь.
➡️ Подробнее - в материале DW.
@dwglavnoe