To detect adversarial samples (e.g., input images) by a vision based perception system for robotic systems or autonomous driving vehicles (ADVs).SOLUTION: In one embodiment, a system receives a first image captured by a capturing device of an ADV 501. The system applies an image transformation to the first image to generate a second image 503. The system applies an object detection model to the first image and the second image to generate a first output 513 and a second output 515, respectively. The system calculates a similarity metric between the first output and the second output 507. The system detects the first image as an adversarial sample if a temporal variation of the similarity metric between the first image and a prior image is above a threshold 511.SELECTED DRAWING: Figure 5
【課題】ロボット・システムまたは自律運転車両(ADV)用の視覚ベース知覚システムによって敵対的サンプル(例えば、入力画像)を検出する。【解決手段】一実施形態では、システムは、ADVの取得デバイスによって取得された第1の画像を受信する501。システムは、第1の画像に画像変換を適用して第2の画像を生成する503。システムは、第1の画像および第2の画像に物体検出モデルを適用して、第1の出力513および第2の出力515をそれぞれ生成する。システムは、第1の出力と第2の出力との間の類似性メトリックを計算する507。システムは、第1の画像と前の画像との間の類似性メトリックの時間的変動が閾値を超える場合に、第1の画像を敵対的サンプルとして検出する511。【選択図】図5
DETECTING ADVERSARIAL SAMPLES BY VISION BASED PERCEPTION SYSTEM
視覚ベース知覚システムによる敵対的サンプルの検出
2020-12-17
Patent
Elektronische Ressource
Japanisch
IPC: | B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion / G06T Bilddatenverarbeitung oder Bilddatenerzeugung allgemein , IMAGE DATA PROCESSING OR GENERATION, IN GENERAL / G08G Anlagen zur Steuerung, Regelung oder Überwachung des Verkehrs , TRAFFIC CONTROL SYSTEMS |
Computer Vision-Based V2X Collaborative Perception
British Library Conference Proceedings | 2022
|Perception-Constrained Vision-Based Quadrotor Control
Springer Verlag | 2024
|Towards Efficient Adversarial Training on Vision Transformers
British Library Conference Proceedings | 2022
|Vision-based perception for intelligent vehicles
IEEE | 2015
|