Автомобили-беспилотники «хакнули» с помощью наклеек

google car

Разработчики беспилотных автомобилей и регуляторы их использования обеспокоены, в основном, угрозами безопасности, которые связаны с возможностями удаленного взлома через сеть интернет или локальные подключения к компьютерной системе устройства. Но, как оказалось, существует гораздо более простой способ создать проблемы автономным машинам.

Группа исследователей из Вашингтонского университета обнаружила, что систему машинного зрения, которая применяется в автомобилях с автопилотом для распознавания дорожных знаков, очень просто одурачить: достаточно разместить на знаке несколько небольших наклеек определенным образом.

google car

Если злоумышленники знают, как автомобиль идентифицирует те или иные знаки, они могут генерировать изображения, которые, не внося в знак значительных изменений, «превратят» его в «глазах» автопилота в абсолютно другой.

Например, разместив небольшие наклейки на знаке «STOP» (см. фото ниже), группа исследователей добилась восприятия его системой автономных авто как знака ограничения скорости. В реальной жизни это может спровоцировать серьезную аварию. Для борьбы с уязвимостью исследователи предлагают добавить в систему управления автомобилем алгоритм, который будет дополнительно анализировать контекст, в котором «увидел» знак. Это поможет убедиться, что знак не пытается ввести систему в заблуждение — автопилот должен «удивиться», «увидев» STOP на высокоскоростном шоссе или же ограничение скорости движения в 100 км/ч на городских улицах.

hacked STOP

Комментировать

avatar
  Подписаться  
Оповещать