Instagram führt KI gegen Cybermobbing ein

„Für Bul­ly­ing ist kein Platz auf Insta­gram” – mit diesen Worten begin­nt ein Blog­post des sozialen Net­zw­erks. Eine KI soll es Mob­bern kün­ftig erschw­eren, andere Mit­glieder zu verunglimpfen. Gle­ichzeit­ig sind neue Wege geplant, um per­sön­liche Angriffe zu melden.

Textanalye in Fotos

Wie Insta­gram bekan­nt gibt, soll eine KI in Zukun­ft dabei helfen, Mob­bing zu unterbinden. Ganz auf men­schlich­es Ein­greifen verzichtet das soziale Net­zw­erk aber offen­bar nicht: Schlägt die Soft­ware an, schickt sie den entsprechen­den Inhalt an einen Mod­er­a­tor, der gegebe­nen­falls weit­ere Schritte ein­leit­et. Der Algo­rith­mus beherrscht dabei anscheinend optis­che Tex­terken­nung und erken­nt Text auch dann, wenn es sich nur um einen abfo­tografierten Brief han­delt. Einen Fil­ter für getippten Text hat­te Insta­gram bere­its im Mai einge­führt, weshalb manch Übeltäter auf diese Weise das Sys­tem aus­trick­sten, Fil­ter für getippte Belei­di­gun­gen zu umge­hen.

On today’s sto­ry: we’re with @maddieziegler spread­ing kind­ness on Insta­gram — and rock­ing the new cam­era effect she helped work on. https://t.co/Cj8Xpnke3T pic.twitter.com/HH8ru1P0wv

— Insta­gram (@instagram) 9. Okto­ber 2018

Herzchen-Filter gegen Mobbing

Zunächst set­zt Insta­gram die KI nur auf Fotos an – sowohl im Feed als auch in Sto­ries. Für die Zukun­ft ist auch der Ein­satz in Videos geplant. Darüber hin­aus wer­den auch Fil­ter für Livestreams einge­führt. Vor­beu­gen ist allerd­ings bess­er als heilen, weshalb Insta­gram mit Tee­nie-Star Mad­die Ziegler zusam­me­nar­beit­et, die sich in der Ver­gan­gen­heit schon öfter gegen Online-Mob­bing aus­ge­sprochen hat. Nutzern ste­ht so bald der soge­nan­nte Kind­ness Cam­era Effect zur Ver­fü­gung: Ein­mal im Self­ie-Modus angewen­det, ver­sieht die App das Bild mit zahlre­ichen AR-Herzchen. Die Botschaft: Seid nett zueinan­der.

Bist Du auch Mit­glied bei Insta­gram? Was hältst Du von den neuen Meth­o­d­en? Hin­ter­lasse uns doch einen Kom­men­tar mit dein­er Mei­n­ung.