Найден способ обмануть беспилотники. Они вовсе не безопасны! — журнал За рулем


Определенное сочетание цветов мешает распознаванию объектов камерами автономных автомобилей.

Материалы по теме


Исследователи из мюнхенского института интеллектуальных систем Макса Планка обнаружили простой способ обмануть высокоавтоматизированные автомобили. Специальный рисунок, состоящий из ярких цветовых пятен, делает невозможным распознавание объектов транспортными средствами. Происходит тотальный сбой системы, беспилотный автомобиль может уйти с полосы или неожиданно затормозить. Чем-то это напоминает эффект, когда стробоскопические вспышки определенной частоты вызывают у некоторых людей эпилептические припадки. То есть через зрение искусственным образом вызывается сбой функций организма, в этом смысле мозг человека и беспилотника имеют что-то общее.

Это открытие несет реальную угрозу безопасности при использовании роботизированных автомобилей на дорогах общего пользования.

По словам ученых, всего за четыре часа им удалось создать образец цветовых сочетаний, вызывающих у беспилотного автомобиля состояние сродни панике, и это становится угрозой безопасности. Узор можно легко нанести на футболки или сделать наклейки на дорожные знаки или хозяйственные сумки. Хакеры тоже могут этим воспользоваться, предупреждают исследователи.

Исследователи из института Макса Планка носят футболки с цветным пятном, которое мешает распознаванию объектов системами камер. Слева направо: Андреас Гейгер, Анураг Ранджан, Майкл Блэк и Джоэл Джанаи.

Исследователи из института Макса Планка носят футболки с цветным пятном, которое мешает распознаванию объектов системами камер. Слева направо: Андреас Гейгер, Анураг Ранджан, Майкл Блэк и Джоэл Джанаи.

Проблема заключается в несовершенстве искусственного интеллекта, которое проявляется при распознавании изображений. Алгоритм использует встроенную камеру для наблюдения за окружающей средой, такой как дорога перед автомобилем, и для обнаружения препятствий. Если распознавание дает сбой, машина-робот в лучшем случае останавливается из соображений безопасности.

Тот факт, что самообучающиеся системы распознавания изображений уязвимы в целом и, особенно, в автомобиле, не является открытием.

Однако задолго до серийного внедрения роботизированных транспортных средств исследователи из института Макса Планка предупреждают инженеров, что помехи можно легко организовать, и это лишь один из примеров.

Разумеется, ученые и программисты со временем решат эту проблему, но пока она остается. Исследователи полагают, что теперь задача автопроизводителей — обучить свои системы быть устойчивыми к таким атакам.

Фото: automobil-industrie.vogel.de

Ошибка в тексте? Выделите её мышкой! И нажмите: Ctrl + Enter



Source link

Добавить комментарий