To detect adversarial samples (e.g., input images) by a vision based perception system for robotic systems or autonomous driving vehicles (ADVs).SOLUTION: In one embodiment, a system receives a first image captured by a capturing device of an ADV 501. The system applies an image transformation to the first image to generate a second image 503. The system applies an object detection model to the first image and the second image to generate a first output 513 and a second output 515, respectively. The system calculates a similarity metric between the first output and the second output 507. The system detects the first image as an adversarial sample if a temporal variation of the similarity metric between the first image and a prior image is above a threshold 511.SELECTED DRAWING: Figure 5

    【課題】ロボット・システムまたは自律運転車両(ADV)用の視覚ベース知覚システムによって敵対的サンプル(例えば、入力画像)を検出する。【解決手段】一実施形態では、システムは、ADVの取得デバイスによって取得された第1の画像を受信する501。システムは、第1の画像に画像変換を適用して第2の画像を生成する503。システムは、第1の画像および第2の画像に物体検出モデルを適用して、第1の出力513および第2の出力515をそれぞれ生成する。システムは、第1の出力と第2の出力との間の類似性メトリックを計算する507。システムは、第1の画像と前の画像との間の類似性メトリックの時間的変動が閾値を超える場合に、第1の画像を敵対的サンプルとして検出する511。【選択図】図5


    Zugriff

    Download


    Exportieren, teilen und zitieren



    Titel :

    DETECTING ADVERSARIAL SAMPLES BY VISION BASED PERCEPTION SYSTEM


    Weitere Titelangaben:

    視覚ベース知覚システムによる敵対的サンプルの検出


    Beteiligte:
    JIA YUNHAN (Autor:in) / ZHONG ZHENYU (Autor:in) / ZHANG YULONG (Autor:in) / WEI TAO (Autor:in)

    Erscheinungsdatum :

    2020-12-17


    Medientyp :

    Patent


    Format :

    Elektronische Ressource


    Sprache :

    Japanisch


    Klassifikation :

    IPC:    B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion / G06T Bilddatenverarbeitung oder Bilddatenerzeugung allgemein , IMAGE DATA PROCESSING OR GENERATION, IN GENERAL / G08G Anlagen zur Steuerung, Regelung oder Überwachung des Verkehrs , TRAFFIC CONTROL SYSTEMS



    Adversarial Learning Improves Vision-Based Perception from Drones with Imbalanced Datasets

    Dolph, Chester V. / Ippolito, Corey / Glaab, Louis J. et al. | AIAA | 2023


    Computer Vision-Based V2X Collaborative Perception

    Miucic, Radovan / Rajab, Samer | British Library Conference Proceedings | 2022


    Perception-Constrained Vision-Based Quadrotor Control

    Qin, Chao / Liu, Hugh H.-T. | Springer Verlag | 2024


    Towards Efficient Adversarial Training on Vision Transformers

    Wu, Boxi / Gu, Jindong / Li, Zhifeng et al. | British Library Conference Proceedings | 2022