가상 공간에서 가상 주행하는 에이전트들 각각의 움직임을 결정하는 각 에이전트의 액션을 기반으로 학습되는 자율 주행 모델에 대한 액션 오염 공격 시스템은, 상기 가상 공간에서의 상기 에이전트들의 위치 정보를 기초로, 복수개의 상기 에이전트들 중에서, 상기 자율 주행 모델이 출력한 액션 정보가 아닌 조작된 액션 정보에 의한 가상 주행을 수행시키고자 하는 공격 대상인 타겟 에이전트를 결정하도록 구성되는 타겟 에이전트 결정부; 및 상기 타겟 에이전트에 대해서 상기 자율 주행 모델이 출력한 액션 정보를 조작하여 타겟 액션 정보를 생성하고, 상기 타겟 에이전트가 상기 타겟 액션 정보에 의한 액션인 타겟 액션을 수행하도록 하여 상기 자율 주행 모델의 학습을 방해하도록 구성되는 타겟 액션 결정부를 포함하고, 상기 자율 주행 모델은, 상기 가상 공간에서 다른 에이전트들의 위치 및 액션을 기초로 각 에이전트의 액션 정보를 결정하면서, 상기 에이전트들의 액션을 기반으로 기계 학습 방식으로 학습되는 기계 학습 모델일 수 있다.
An action poisoning attack system for an autonomous driving model trained on the basis of the actions of agents each determining the movement thereof, the agents virtually driving in a virtual space, may comprise: a target agent determination unit configured to determine a target agent to be attacked among the plurality of agents on the basis of location information of the agents in the virtual space; and a target action determination unit configured to manipulate action information output by the autonomous driving model with respect to the target agent to generate target action information, and allow the target agent to perform a target action, which is an action by the target action information, to interfere with training of the autonomous driving model.
ACTION POISONING ATTACK SYSTEM AND ACTION POISONING ATTACK METHOD FOR AUTONOMOUS DRIVING MODEL
자율 주행 모델에 대한 액션 오염 공격 시스템 및 자율 주행 모델에 대한 액션 오염 공격 방법
2025-05-21
Patent
Electronic Resource
Korean
IPC: | G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion |
European Patent Office | 2025
|European Patent Office | 2022
|Logit Poisoning Attack in Distillation-based Federated Learning and its Countermeasures
ArXiv | 2024
|