Nový detektor nenávisti na Mnichovské univerzitě aplikovaných věd proti online nenávisti
Nový detektor nenávisti na Mnichovské univerzitě aplikovaných věd proti online nenávisti
Mnichov - Nový přístup k boji proti nenávistným komentářům na internetu představuje Mnichovská univerzita aplikovaných věd. S inovativním programem, „detektorem nenávistných řeči“, má být problematický tón na online fórech a sociálních médiích pod kontrolou. To se provádí pomocí umělé inteligence, která byla vyškolena k rozpoznání urážlivého, diskriminačního a ohrožujícího obsahu. Vývoj tohoto nástroje by mohl mít velký význam pro menší platformy, které často nemají zdroje, aby mohly účinně zmírnit nenávistné projevy.
Projektový manažer Prof. Peter Mandl odkazuje na naléhavost takových technologií. V posledních několika měsících bylo stanoveno nárůst nenávistných komentářů, což je posíleno novými pokyny, podle kterých jsou webové stránky nyní intenzivněji sledovány národními koordinátory. Mandl zdůrazňuje: „Je děsivé, co někteří lidé říkají na internetu.“ Cílem detektoru nenávisti je proto usnadnit zátěž týmům moderátorů nejprve identifikací a upřednostňováním relevantního obsahu.
Používá se technologieMnichovská univerzita aplikovaných věd vyvinula detektor nenávistných řeči z rozsáhlého souboru údajů o více než 34 000 příkladech. Tato umělá inteligence je schopna nejen analyzovat jednotlivá slova, ale také hodnotit celé věty. Podle Mandl dosáhnete míry zásahu 70 až 80 procent. Tato účinnost však přichází s důležitým omezením: konečné rozhodnutí o smazání příspěvku zůstává v rukou lidského moderátora. „Bylo by riskantní automatizovat všechno, protože svoboda projevu musí zůstat zachována,“ vysvětluje Mandl.
Současný výzkum je zvláště důležitý, protože mnoho stávajících řešení často pochází od komerčních poskytovatelů, kteří většinou pracují s anglickými datovými záznamy. „V Německu chybí transparentní a levné alternativy,“ říká Mandl. Existují podobné programy, ale tyto slabosti často ukazují v původu dat a přístupu k uživatelům.Ale detektor nenávistných řeči není bez výzev. Jedním z největších obtíží je rozpoznat kontext diskusí. V závislosti na tématu - ať už je to sport nebo politika - jazyk se výrazně liší. Bude také obtížné identifikovat jemné známky nenávistného projevu, když se členové online komunity pokusí maskovat v nejasných popisech.
Pohled do budoucnosti
rozhovory o možném dalším vývoji projektu již probíhají. Mandl vyjadřuje naději, že najdete profesionální implementační společnost nebo bude vytvořena možná i spin -off z univerzity, aby se tato důležitá technologie dále rozvinula a aby byla k dispozici pro širší použití.
Použití umělé inteligence v boji proti nenávistné řeči je kontroverzní jinde, ale Mandl poukazuje na: „AI může nabídnout cennou podporu, ale rozhodnutí -tvůrci musí zůstat.“ Vyvážený vztah mezi technologií a lidským uvážením by mohl být klíčem k zajištění toho, aby bylo během boje proti nenávisti v síti udržováno právo na svobodu projevu.
Závazek univerzity vytvořit spravedlivější a přitažlivější prostředí digitální komunikace by mohl mít dlouhodobě na celé internetové kultuře. Propagací respektu a slušnosti online je možné přivést do sítě autentické koexistence.
V digitálním věku má nenávistná řeč dalekosáhlé sociální účinky. Šíření urážlivých nebo diskriminačních prohlášení na internetu může nejen ohrozit individuální dobře -, ale také toasty kolektivních psychóz, které vedou k polarizaci společnosti. Podle studie Evropské komise se 57% respondentů domnívalo, že online nenávistné projevy jsou vážným problémem. Tato čísla ilustrují naléhavost efektivních řešení, jako je detektor nenávistných řeči, jejichž cílem je cílená kontrola tohoto jevu.
Mnichovská univerzita aplikovaných věd také reagovala na rostoucí potřebu s vývojem svého softwaru: Uživatelé online platforem a sociálních médií mají často pocit, že moderátoři nemohou dostatečně reagovat na problematický obsah. Detektor nenávisti je nejen technickým nástrojem, ale také přispívá k posílení digitální občanské společnosti tím, že pomáhá podporovat respektující soužití na síti.
Podmínky právního rámce
Dalším důležitým aspektem, který je třeba vzít v úvahu, jsou právní rámcové podmínky, které regulují manipulaci s nenávistnými projevy v Německu a mnoha dalších zemích. V roce 2017 vstoupil v platnost zákon o vymáhání sítě (Netzdg), který spojuje sociální sítě zjevně odstranit nebo blokovat nelegální obsah do 24 hodin. V případě zjevně nelegálního obsahu by se platformy měly do sedmi dnů rozhodnout, zda je obsah odstraněn. To pomáhá zajistit, aby provozovatelé platforem, jako jsou Facebook, Twitter a Co.
Navzdory těmto právním předpisům studie ukazují, že významná část uživatelů stále vnímá nenávistné komentáře a agresivní rétoriku v sociálních médiích, aniž by byly v dostatečném rozsahu zmírněny. Detektor nenávisti by zde mohl být cennou podporou a pomoci usnadnit dodržování zákonných požadavků.
Technologické výzvy a potenciál rozvoje
Vývoj efektivních detektorů nenávistných řeči je spojen se značnými technologickými výzvami. Zatímco Mnichovská univerzita Applied Sciences již dosáhla pozitivních výsledků, stále existuje mnoho aspektů Hassovy řeči. Nedávné studie, například zveřejněné Tu Mnichov, ukazují, že strojové učení a zpracování přirozeného jazyka se zlepšují a zlepšují se při zachycení kontextů a nuancí v textech. Schopnost pochopit implicitní formy nenávistného projevu zůstává složitá překážkou, která vyžaduje nepřetržitý výzkum.
Budoucí vývoj by se mohl zaměřit na další rozvoj detektoru s cílem umožnit analýzy závislé na kontextu a zohlednit kulturní rozdíly v komunikaci. Možnost spolupráce s průmyslovými partnery nebo spin-off spuštění by mohla dále řídit proces vývoje s cílem vytvořit tržní produkt, který má nejen akademický, ale také ekonomický význam.
|