Бывший менеджер Uber Раффи Крикорян предупреждает о рисках использования ИИ в дорожном движении.
В своем эссе он сообщает, что его Tesla после аварии перешла в режим «Полного самостоятельного вождения».
Несмотря на то, что он знал о рисках, технология была настолько привлекательной, что ему было трудно ей не доверять.
Бывший руководитель программы автономного вождения в Убер говорит, что произошел несчастный случай с одним Тесла преподал ему урок об этом К не следует «слишком доверять». Раффи Крикорян написал в эссе в журнале The Atlantic, что его Tesla Модель Х понес полную потерю в прошлом году после того, как попал в «Полное самостоятельное вождение«Режим зашел в тупик.
Авария произошла, хотя за рулем находился Крикорян. «Что-то было не так, руль двинулся в одну сторону, потом в другую, и машина затормозила иначе, чем я ожидал. Я вмешался, чтобы взять управление на себя», — написал Крикорян, который сейчас работает техническим директором в Mozilla. Непонятно, почему именно система отреагировала таким образом. “Я не знаю, что сделала система и почему. Я просто знаю, что в те секунды мы столкнулись со стеной”, – сказал Крикорян.
Он получил сотрясение мозга, но больше никто не пострадал. Несчастный случай произошел в Сан-Франциско, когда он вел сына на собрание бойскаутов. Тесла не стал комментировать, когда его спросили.
Прочтите тоже
Опасность «слишком большого доверия» к ИИ
По мнению Крикоряна, настоящий урок заключается не в технических ошибках, а в человеческом поведении. Он знал, что взятие под контроль сопряжено с риском. КИ-Система отдать. Но технологии сейчас настолько хороши, что им трудно не доверять. «Я должен был превратиться из пассажира в водителя в мгновение ока, преодолев месяцы привыкания», — поделился он.
Современные системы помощи при вождении, такие как «Полное автономное вождение» Tesla, теперь могут справиться практически с любой дорожной ситуацией. Однако они не лишены ошибок. Поэтому производители требуют, чтобы водители всегда были начеку и имели возможность немедленно вмешаться.
Именно в этом Крикорян видит проблему: «Машина, которая работает идеально, не нуждается в присмотре. Но машина, которая работает почти идеально? Именно в этом и заключается опасность».
Прочтите тоже
Известны проблемы с «Полным самостоятельным вождением»
Ошибка из Тесла Системы FSD уже неоднократно документировались. Власти расследуют случаи, когда транспортные средства выезжали не на ту сторону дороги, игнорировали красный свет светофора или неверно оценивали железнодорожные переезды.
Tesla также столкнулась с несколькими судебными исками, включая несчастные случаи со смертельным исходом, связанные с FSD и предыдущей системой автопилота. В прошлом году компанию обязали выплатить около 242 миллионов долларов в качестве компенсации за ущерб после того, как 22-летняя женщина погибла в результате несчастного случая в 2019 году.
Маркетинг этой технологии также подвергся критике: в декабре суд в Калифорнии постановил, что в рекламе Tesla ошибочно утверждается, что автомобили могут двигаться полностью автономно.
Прочтите тоже
Другие производители также пострадали
Tesla — не единственный производитель автомобилей, у которого проблемы с системами помощи при вождении. В настоящее время компания Ford находится в центре расследования двух аварий со смертельным исходом, произошедших в 2024 году, в которых использовалась система BlueCruise. Документы Национальной администрации безопасности дорожного движения США (NTSB) свидетельствуют о том, что в обоих случаях водители отвлеклись.
Сам Uber также испытал на себе риски автономных технологий. В 2018 году, через год после ухода Крикоряна, испытательный автомобиль автономного вождения компании в Аризоне смертельно ранил пешехода. Расследование показало, что водитель-безопасник отвлекся и не обратил внимания на дорогу. Следователи также раскритиковали «неадекватную культуру безопасности» Uber.
Затем Uber приостановил свои амбиции по разработке беспилотных автомобилей в 2020 году. Этот случай показывает: не только технологии, но и люди остаются решающим фактором, особенно когда системы кажутся почти безошибочными.
Прочтите тоже
Прочитайте оригинальную статью Бизнес Инсайдер США.
2026-03-18 19:00:00
1773884463
#Авария #Tesla #режиме #беспилотного #вождения #эксменеджер #Uber #предупреждает #доверии #ИИ
По теме
