An action poisoning attack system for an autonomous driving model trained on the basis of the actions of agents each determining the movement thereof, the agents virtually driving in a virtual space, may comprise: a target agent determination unit configured to determine a target agent to be attacked among the plurality of agents on the basis of location information of the agents in the virtual space; and a target action determination unit configured to manipulate action information output by the autonomous driving model with respect to the target agent to generate target action information, and allow the target agent to perform a target action, which is an action by the target action information, to interfere with training of the autonomous driving model.
Un système d'action d'attaque par empoisonnement pour un modèle de conduite autonome entraîné sur la base des actions d'agents déterminant chacun leur mouvement, les agents conduisant virtuellement dans un espace virtuel, peut comprendre : une unité de détermination d'agent cible configurée pour déterminer un agent cible devant être attaqué parmi la pluralité d'agents sur la base d'informations d'emplacement des agents dans l'espace virtuel ; et une unité de détermination d'action cible configurée pour manipuler des informations d'action délivrées en sortie par le modèle de conduite autonome par rapport à l'agent cible pour générer des informations d'action cible, et permettre à l'agent cible de réaliser une action cible, qui est une action par les informations d'action cible, pour interférer avec l'entraînement du modèle de conduite autonome.
가상 공간에서 가상 주행하는 에이전트들 각각의 움직임을 결정하는 각 에이전트의 액션을 기반으로 학습되는 자율 주행 모델에 대한 액션 오염 공격 시스템은, 상기 가상 공간에서의 상기 에이전트들의 위치 정보를 기초로, 복수개의 상기 에이전트들 중에서, 공격 대상인 타겟 에이전트를 결정하도록 구성되는 타겟 에이전트 결정부; 및 상기 타겟 에이전트에 대해서 상기 자율 주행 모델이 출력한 액션 정보를 조작하여 타겟 액션 정보를 생성하고, 상기 타겟 에이전트가 상기 타겟 액션 정보에 의한 액션인 타겟 액션을 수행하도록 하여 상기 자율 주행 모델의 학습을 방해하도록 구성되는 타겟 액션 결정부를 포함할 수 있다.
ACTION POISONING ATTACK SYSTEM FOR AUTONOMOUS DRIVING MODEL AND ACTION POISONING ATTACK METHOD FOR AUTONOMOUS DRIVING MODEL
SYSTÈME D'ACTION D'ATTAQUE PAR EMPOISONNEMENT POUR MODÈLE DE CONDUITE AUTONOME ET PROCÉDÉ D'ACTION D'ATTAQUE PAR EMPOISONNEMENT POUR MODÈLE DE CONDUITE AUTONOME
자율 주행 모델에 대한 액션 오염 공격 시스템 및 자율 주행 모델에 대한 액션 오염 공격 방법
2025-05-22
Patent
Electronic Resource
Korean
IPC: | G06N COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS , Rechnersysteme, basierend auf spezifischen Rechenmodellen / B60W CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION , Gemeinsame Steuerung oder Regelung von Fahrzeug-Unteraggregaten verschiedenen Typs oder verschiedener Funktion |
ACTION POISONING ATTACK SYSTEM AND ACTION POISONING ATTACK METHOD FOR AUTONOMOUS DRIVING MODEL
European Patent Office | 2025
|AUTONOMOUS DRIVING SYSTEM, AUTONOMOUS DRIVING METHOD, AND AUTONOMOUS DRIVING PROGRAM
European Patent Office | 2023
|AUTONOMOUS DRIVING SYSTEM, AUTONOMOUS DRIVING METHOD, AND AUTONOMOUS DRIVING PROGRAM
European Patent Office | 2022
|AUTONOMOUS DRIVING SYSTEM, AUTONOMOUS DRIVING METHOD, AND AUTONOMOUS DRIVING PROGRAM
European Patent Office | 2019
|Autonomous Driving Based on Approximate Safe Action
IEEE | 2023
|