Nové metody pro bezpečné neuronové sítě: Výzkum z Würzburgu a Mnichova
Nové metody pro bezpečné neuronové sítě: Výzkum z Würzburgu a Mnichova
Vědci z University of Würzburg a Technical University of Mnichov se zavázali zlepšovat robustnost neuronálních sítí. To se provádí jako součást projektu, který je financován německou výzkumnou nadací (DFG). S ohledem na každodenní aplikace strojového učení v autonomních vozidlech, analýze lékařských obrázků a interaktivních chatbotů je potřeba stále více naléhavá k zajištění těchto systémů proti cíleným útokům.
Pochopte nebezpečí cílených útoků
Neuronální sítě, které se používají pro různé aplikace, často vykazují slabý bod: mohou být nepochopeny specifickými manipulacemi zvenčí. Příklad to jasně ilustruje: obrázek housle může software nesprávně rozpoznat minimálními změnami v oblasti pixelů jako lachtan. Takové chyby jsou nejen trapné, ale mohou mít katastrofické důsledky v kritických situacích, například v silniční dopravě nebo v lékařské diagnostice.
Výzkumná síť a finanční podpora
DFG byl schválen nový výzkumný projekt s rozpočtem 565 000 EUR, z nichž více než 250 000 EUR tok tok na Julius Maximilians University ve Würzburgu. Tento projekt, který je známý pod názvem „Geomar: Geometric Methods for Adversariální robustnosti“, bude prozkoumán v příštích třech letech. Dva angažovaní vědci, profesor Leon Bungert a Dr. Leo Schwinn sledují cíl, aby neuronové sítě byly robustnější proti nepřátelským útokům.
robustnost jako klíč ke spolehlivosti
V této souvislosti znamená robustnost, že systémy by měly odolat náhodným i cíleným chybám. Zatímco moderní systémy již mají značný odpor vůči náhodným chybám, často mu chybí cílené útoky. Účelem přístupu pro výzkum je přípravek neuronových sítí systematicky konfrontovat vadná a manipulovaná data při školení. To má zabránit tomu, aby chyby způsobily vážné problémy.
Geometrické metody pro rozhodování -výroba
Ústředním prvkem projektu je použití geometrických metod. Při klasifikaci obrázků, například v rozlišení mezi psy a kočkami, musí neuronová síť nakreslit limit rozhodování. Tyto limity jsou nejen zásadní pro přesnost systému, ale také hlavní bod aktivity pro manipulace. Pochopením těchto limitů lze vyvinout nové matematické modely, které pomáhají zvýšit robustnost sítí.
Vyvinout metodu tréninku na míru
Za účelem optimálně trénování neuronálních sítí Bungert a Schwinn sledují inovativní přístup: místo použití jedné sítě trénují dvě různé sítě současně. Jedna z těchto sítí simuluje potenciální útoky „útočníka“. Tato metoda doufá, že systém bude odolnější a imaginativnější než lidský útočník. Cílem není jen zvýšit robustnost, ale také zlepšit účinnost procesu tréninku.
Závěr a Outlook
Projekt „Geomar“ by mohl poskytnout průkopnické výsledky, které nejen zvyšují spolehlivost systémů strojového učení, ale také podporují jejich praktické použití v oblasti kritických oblastí. Z dlouhodobého hlediska by výsledky výzkumu mohly vést k technologii mechanického učení, která bude v našem každodenním životě bezpečněji a efektivněji využívána. Zaměření na robustnost a spolehlivost těchto systémů je velmi důležité, zejména ve světě, ve kterém se do popředí stále více přicházejí autonomní technologie.
Kontakt
Dr. Leon Bungert, profesor matematiky III (Matematika strojového učení), Tel: +49 931 31-82849, e-mail: leon.unft@uni-wuerzburg.de
Web Leon Bungerts
- Nag