가상 공간에서 가상 주행하는 에이전트들 각각의 움직임을 결정하는 각 에이전트의 액션을 기반으로 학습되는 자율 주행 모델에 대한 액션 오염 공격 시스템은, 상기 가상 공간에서의 상기 에이전트들의 위치 정보를 기초로, 복수개의 상기 에이전트들 중에서, 상기 자율 주행 모델이 출력한 액션 정보가 아닌 조작된 액션 정보에 의한 가상 주행을 수행시키고자 하는 공격 대상인 타겟 에이전트를 결정하도록 구성되는 타겟 에이전트 결정부; 및 상기 타겟 에이전트에 대해서 상기 자율 주행 모델이 출력한 액션 정보를 조작하여 타겟 액션 정보를 생성하고, 상기 타겟 에이전트가 상기 타겟 액션 정보에 의한 액션인 타겟 액션을 수행하도록 하여 상기 자율 주행 모델의 학습을 방해하도록 구성되는 타겟 액션 결정부를 포함하고, 상기 자율 주행 모델은, 상기 가상 공간에서 다른 에이전트들의 위치 및 액션을 기초로 각 에이전트의 액션 정보를 결정하면서, 상기 에이전트들의 액션을 기반으로 기계 학습 방식으로 학습되는 기계 학습 모델일 수 있다.

    An action poisoning attack system for an autonomous driving model trained on the basis of the actions of agents each determining the movement thereof, the agents virtually driving in a virtual space, may comprise: a target agent determination unit configured to determine a target agent to be attacked among the plurality of agents on the basis of location information of the agents in the virtual space; and a target action determination unit configured to manipulate action information output by the autonomous driving model with respect to the target agent to generate target action information, and allow the target agent to perform a target action, which is an action by the target action information, to interfere with training of the autonomous driving model.


    Access

    Download


    Export, share and cite



    Title :

    ACTION POISONING ATTACK SYSTEM AND ACTION POISONING ATTACK METHOD FOR AUTONOMOUS DRIVING MODEL


    Additional title:

    자율 주행 모델에 대한 액션 오염 공격 시스템 및 자율 주행 모델에 대한 액션 오염 공격 방법


    Contributors:
    CHOI DAESEON (author) / YOONSOO AN (author)

    Publication date :

    2025-05-21


    Type of media :

    Patent


    Type of material :

    Electronic Resource


    Language :

    Korean


    Classification :

    IPC:    G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion




    Peak-Controlled Logits Poisoning Attack in Federated Distillation

    Tang, Yuhan / Zhang, Aoxu / Wu, Zhiyuan et al. | ArXiv | 2024

    Free access

    Accelerating Poisoning Attack Through Momentum and Adam Algorithms

    Jiang, Wenbo / Li, Hongwei / Gong, Li et al. | IEEE | 2020


    Deep reinforcement learning traffic signal control poisoning attack method based on Trojan horse attack

    XU DONGWEI / WANG DA / LI CHENGBIN | European Patent Office | 2022

    Free access

    Logit Poisoning Attack in Distillation-based Federated Learning and its Countermeasures

    Yu, Yonghao / Zhu, Shunan / Hu, Jinglu | ArXiv | 2024

    Free access