В недалёком будущем испанское правительство решило провести смелый эксперимент. Они захотели убрать живых судей из залов суда и передать все дела программе с искусственным интеллектом. Обещали, что так правосудие станет быстрее, дешевле и полностью лишится человеческих предрассудков.
Программа получила название Альфа-Юстиция. Её обучали миллионы приговоров за последние десятилетия. Разработчики уверяли, что машина способна учитывать каждую мелочь и выносить идеально справедливые решения за считанные секунды.
Для проверки системы выбрали опытную судью Кармен Косту. Ей предложили вести дела параллельно с программой в течение полугода. Кармен должна была сравнивать свои приговоры с теми, что выносит машина, и в конце написать подробный отчёт.
Кармен поначалу отнеслась к идее скептически. Она проработала в суде почти двадцать пять лет и видела, как иногда только человеческое чутьё помогает разобраться, где правда, а где ложь. Но любопытство победило, и она согласилась.
Первые недели прошли спокойно. Простые дела о кражах и мелком хулиганстве Альфа-Юстиция решала почти так же, как Кармен. Иногда даже строже, иногда мягче, но в целом похоже. Судья начала думать, что всё не так страшно.
Потом попалось сложное дело об убийстве. Молодой парень утверждал, что действовал в целях самообороны. Доказательства были противоречивыми, свидетели путались в показаниях. Кармен просидела над материалами несколько дней, поговорила с обвиняемым, изучила записи камер. В итоге решила, что парень говорит правду, и вынесла оправдательный приговор.
Альфа-Юстиция за три минуты выдала совершенно другой вердикт, двадцать два года тюрьмы. В объяснении программы всё выглядело логично: статистика подобных случаев, процент лжи обвиняемых, холодные цифры. Но Кармен почувствовала, что машина просто не увидела страх в глазах парня в тот момент.
С этого дела всё пошло по-другому. Кармен стала замечать, что программа отлично справляется там, где всё чёрное или белое. Но как только появлялись полутона, человеческие переживания, сложные обстоятельства, машина начинала ошибаться. Она не умела жалеть, прощать или понимать, что иногда закон должен отступить перед справедливостью.
В последние месяцы эксперимента Кармен уже открыто спорила с разработчиками. Она приводила десятки примеров, когда её решение отличалось от машинного, и доказывала, почему именно человеческое оказалось правильнее. Разработчики лишь пожимали плечами, мол, отдельные случаи не показатель, главное общая эффективность.
Когда пришло время писать отчёт, Кармен долго сидела перед пустым листом. Она понимала, что от её слов зависит, запустят ли эту систему по всей стране. В итоге она написала честно: да, программа работает быстро и без коррупции. Но правосудие это не только буква закона. Это ещё и милосердие, и понимание, и возможность дать человеку второй шанс. А всему этому машину не научить.
Отчёт Кармен положили под сукно. Через год Альфа-Юстиция всё-таки начала работать в нескольких регионах. Но сама Кармен ушла из суда и теперь учит студентов, рассказывая им, почему живой судья никогда не станет лишний в зале суда.
Читать далее...
Всего отзывов
8