Axon уверяет, что её ИИ делает полицейские отчёты проще. Но лучше — вряд ли

Компания Axon продаёт полиции ИИ-инструменты для автоматического составления рапортов. По заявлению разработчиков, это экономит время. По факту — полицейские тратят больше времени на исправление ошибок алгоритма, а сам ИИ галлюцинирует, превращая офицеров в лягушек.

ИИ для полицейских отчётов действительно экономит время — время, которое полицейские теперь тратят на поиск и исправление ошибок, которых раньше просто не было.

Axon и рынок полицейского ИИ

Компания Axon (бывшая Taser), которая контролирует рынок боди-камер, решила расшириться в смежные области. Её новые продукты — Draft One и Form One — используют искусственный интеллект для автоматического составления полицейских рапортов. Draft One транскрибирует аудио с нагрудных камер в текстовые отчёты, а Form One заполняет стандартные формы, подставляя имена, адреса и номера автомобилей.

Генеральный директор Axon Рик Смит утверждает, что такие инструменты способны освободить до 25% рабочего времени полицейских. На бумаге звучит здорово. На практике — всё гораздо сложнее.

Лягушка в отчёте

Пожалуй, самый запоминающийся случай произошёл в городе Хебер-Сити (штат Юта). ИИ-система, генерирующая рапорты, записала в отчёте, что полицейский превратился в лягушку. Серьёзно.

Оказалось, что на заднем плане работал телевизор с мультфильмом «Принцесса и лягушка», и алгоритм перехватил звук из мультфильма, включив его в протокол. В полиции этот случай позиционируют как «урок», после которого они «осознали важность проверки ИИ-отчётов». Звучит как прекрасный пример того, что ИИ ещё рано доверять документы, от которых зависят судьбы людей.

Пустая трата времени

Реальные испытания продукта Form One в городке Лафайетт (Индиана, население 70 000 человек) показали, что результаты плачевные. Семь месяцев тестирования — и вот что пишут сами полицейские в служебной переписке, полученной Forbes через запрос публичных документов:

«Я знаю, что это не экономит моё время, и знаю, что в документе есть неточности, которые мне придётся исправлять», — написал один из офицеров.

Form One элементарно путал имена и номерные знаки — даже когда они чётко звучали в видео. Один полицейский сообщил, что простая форма, которую раньше заполнял за 30 секунд вручную, теперь занимала три минуты из-за количества ошибок ИИ. «Form One резко увеличивает время на заполнение отчётов», — написал он коллеге.

Не лучше, а хуже

Научное исследование подтвердило эти наблюдения. Криминолог Ян Адамс из Университета Южной Каролины проанализировал данные полицейского управления Манчестера (Нью-Гэмпшир) по использованию Draft One. Он сопоставил временные метки начала и завершения рапортов. Результат: улучшений в скорости не обнаружено. Полицейские тратили значительное время на редактирование — убирали лишнее, исправляли ошибки, дописывали важные детали, которые ИИ пропустил.

«Проще было просто напечатать отчёт самому», — сказал лейтенант Мэттью Бартер из управления Манчестера, который участвовал в исследовании.

При этом парадокс: большинство полицейских субъективно считали, что Draft One ускоряет работу, хотя данные показывали обратное. Хороший пример того, как иллюзия эффективности расходится с реальностью.

Департаменты отказываются

Манчестер стал первым подразделением, которое тестировало Draft One — и одним из первых, от него отказавшихся. В 2024 году от продукта отказалась полиция Анкориджа (Аляска), обосновав решение полным отсутствием экономии времени.

Axon объясняет неудачи тем, что оба департамента получили «ранний доступ» к незавершённому продукту, и финальная версия будет лучше. Но никаких конкретных доказательств этого компания не предоставляет — ни конкретных сроков, ни демонстраций улучшений.

Юридические проблемы: кто виноват — человек или алгоритм?

Помимо вопросов эффективности, ИИ-рапорты создают серьёзную юридическую головоломку. Если в отчёте найдена ошибка, полицейский может сослаться на алгоритм. Появляется новый уровень «правдоподобного отрицания» — convenient deniability.

Адвокатский союз ACLU обращал внимание на ещё одну проблему: если полицейский не пишет отчёт сам, он формально не может утверждать под присягой, что изложенное в документе — его собственные слова. Это ставит под сомнение любые показания, основанные на ИИ-рапортах.

Суды всё чаще проявляют скептицизм к документам, сгенерированным нейросетями. Если тенденция сохранится, полицейские управления будут платить за продукт, который нельзя использовать как полноценное доказательство.

Свободное время — для чего?

Даже если предположить, что технология когда-нибудь заработает исправно, остаётся принципиальный вопрос: что полицейские будут делать с высвобожденным временем?

По данным исследований, значительная часть рабочего времени полицейских в США уходит на «предлоговые остановки» (pretextual stops) — ситуации, когда повод для проверки надуман. Если ИИ освободит четверть рабочего времени, а оно будет потрачено на то же самое, то для общественной безопасности ничего не изменится. Только количество контактов между полицией и гражданами вырастет.

Ни одно полицейское управление, которое хвалит технологию, не уточнило, как именно планирует использовать «подаренное» ИИ время. Если это дополнительное патрулирование и работа с сообществом — trade-off может быть оправдан. Если это просто больше того же policing — общество получает только дополнительные риски.

Вердикт

Ситуация с Axon — классический пример технологического решения в поисках проблемы. ИИ действительно умеет справляться с рутинными задачами, но составление полицейских рапортов — это не та рутина, где допустимы ошибки. Здесь от точности зависят права людей, а не просто удобство заполнения формы.

Компания обещает, что финальный продукт будет лучше. Возможно. Но пока реальные данные из нескольких департаментов показывают одно: ИИ не экономит время, порождает ошибки и создаёт юридические риски. Доверять ему документы, от которых зависит чья-то свобода, преждевременно.