Новый Орлеан стал первым крупным городом США, где ИИ отвечает на звонки 911: один из диспетчеров назвал это ‘худшей идеей’

Новый Орлеан стал первым городом в США, где искусственный интеллект начал принимать экстренные звонки по номеру 911. Однако критики предупреждают, что такая практика может иметь смертельно опасные последствия, пишет New York Post.

Служба связи округа Орлеан, которая ежедневно принимает более тысячи вызовов и входит в число самых загруженных в стране, направляет звонки искусственному интеллекту. Он решает, какие обращения передать операторам, а какие обработать самостоятельно.

«Я проработал диспетчером 911 одиннадцать лет, и это худшая идея, какую только можно придумать», — заявил пользователь под ником Boxy, представившийся сотрудником экстренных служб.

По теме: 22 должности, которые появятся благодаря искусственному интеллекту

Новая система, получившая название AI Emergency Call Triage, была внедрена в крупнейшем городе Луизианы в конце июля после тестирования на линии 311.

Как поясняет издание, алгоритм анализирует звонки и определяет приоритет: какие ситуации требуют немедленного вмешательства человека, а какие можно отнести к повторным или менее срочным, чтобы не перегружать диспетчеров.

Исполнительный директор службы связи округа Орлеан Карл Фасольд, в свою очередь, подчёркивает, что система не заменяет операторов. По его словам, ИИ используется в основном в случаях, когда звонящий находится примерно в 200 метрах от уже зарегистрированного происшествия или когда все операторы заняты.

Тем не менее критики опасаются возможных тяжёлых последствий.

«Бывают ситуации, когда человек не может чётко говорить, у него сильный акцент или он находится в опасной обстановке — например, при домашнем насилии и пытается замаскировать звонок под заказ пиццы. Нужно уметь уловить эмоции и понять то, что не сказано напрямую, — отметил тот же пользователь Boxy, на профиле которого размещено фото в форме сотрудника экстренных служб. — Здесь нужен человек».

Новый Орлеан, судя по всему, стал первым крупным городом страны, где искусственный интеллект фактически отвечает на экстренные звонки.

В других городах, таких как Атланта и Сиэтл, технологии ИИ уже применяются, но в более ограниченном виде.

В Атланте искусственный интеллект помогает действующим диспетчерам быстрее определять местоположение звонящего.

В Сиэтле аналогичная система используется с 2024 года для оценки срочности обращений и принятия решения о приоритете реагирования. По данным расследования Seattle Times, она применялась более двух лет без публичного объявления.

При этом надёжность таких систем вызывает вопросы. По данным ряда исследований, голосовые ИИ работают нестабильно.

Так, в феврале одно из исследований показало, что системы наподобие ChatGPT и Gemini почти в половине случаев создают недостоверную информацию и озвучивают её убедительным голосом. Эти данные приводит компания Newsguard.

Ситуацию осложняет и то, что люди, звонящие в службу 911, редко находятся в спокойном и ясном состоянии, их речь может быть сбивчивой и трудной для понимания. По мнению критиков, это только повышает риск ошибок.

Кроме того, голосовые ИИ-системы остаются уязвимыми для внешних атак и могут формировать скрытые предвзятости в зависимости от обучающих данных. Исследователи в области кибербезопасности из Чжэцзянского университета показали, что поведение таких моделей можно целенаправленно изменять с успешностью от 79% до 96%. Эти результаты были представлены на майском симпозиуме IEEE по безопасности и конфиденциальности.

Эксперты также продемонстрировали возможность взлома подобных систем извне: в ряде тестов им удавалось заставить голосовые модели работать некорректно с вероятностью до 96%.

Тем не менее власти Нового Орлеана заявляют, что уверены в эффективности системы при условии человеческого контроля, качественных обучающих данных, надёжной киберзащиты и регулирования алгоритмов.

Читайте также на ForumDaily:

Как составить резюме, чтобы пройти через машинный отбор персонала

В ChatGPT появилась функция для загрузки и анализа медицинских данных: безопасно ли ею пользоваться

OpenAI может передать администрации Трампа 5% акций компании

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.