{"id":50864,"date":"2024-03-05T12:35:21","date_gmt":"2024-03-05T11:35:21","guid":{"rendered":"https:\/\/www.accompio.com\/blog\/testen-von-ki-risikofaktoren\/"},"modified":"2026-03-10T07:17:55","modified_gmt":"2026-03-10T06:17:55","slug":"testen-von-ki-risikofaktoren","status":"publish","type":"blog","link":"https:\/\/www.accompio.com\/de\/blog\/testen-von-ki-risikofaktoren\/","title":{"rendered":"Testen von KI: Risikofaktoren"},"content":{"rendered":"\n

In der heutigen vernetzten Welt sind KI-\u00dcbersetzer wie DeepL und Google Translate nicht mehr wegzudenken. Im vorherigen Kapitel habe ich diese \u00dcbersetzer bereits auf Herz und Nieren getestet<\/a>. Doch wie bei allen Technologien birgt auch die Nutzung von KI-\u00dcbersetzern bestimmte Risiken. In diesem Kapitel schlie\u00dfe ich meine Blog-Reihe ab und werfe einen genaueren Blick auf diese Risikofaktoren und wie sie minimiert werden k\u00f6nnen.\u00a0<\/p>\n\n\n\n

Wenn sich Sprache ver\u00e4ndert\u00a0<\/h3>\n\n\n\n

Sprache ist im st\u00e4ndigen Wandel. Nicht nur der Stil, sondern auch die Regeln der deutschen Sprache haben sich in den vergangenen Jahren erheblich gewandelt. Neue W\u00f6rter und Phrasen wurden eingef\u00fchrt (Jugendwort des Jahres 2023: „Goofy“), w\u00e4hrend andere veraltet und weniger gebr\u00e4uchlich geworden sind. Die Einfl\u00fcsse von Technologie, sozialen Medien und kulturellem Austausch haben zu einer schnellen Evolution der Sprache <\/strong>gef\u00fchrt. Dar\u00fcber hinaus haben sich auch die Grammatik und die Rechtschreibung weiterentwickelt, um die Ver\u00e4nderungen in der Gesellschaft und der Kommunikation widerzuspiegeln.\u00a0<\/p>\n\n\n\n

Damit diese Trends und Entwicklungen auch in den \u00dcbersetzungen abgebildet werden k\u00f6nnen, m\u00fcssen die KI-\u00dcbersetzer stets auf dem neusten Stand gehalten<\/strong> werden, besonders die Trainingsdaten. Das System lernt anhand der Trainingsdaten, mit unbekannten Texten umzugehen und diese in einer Weise zu interpretieren, die sowohl den Kontext als auch die Nuancen des Originaltextes ber\u00fccksichtigt. Sind diese Daten nicht aktuell, k\u00f6nnte das System \u00dcbersetzungen liefern, die nicht mehr zeitgem\u00e4\u00df sind<\/strong>.\u00a0\u00a0<\/p>\n\n\n\n

Der richtige Umgang mit Nutzerfeedback\u00a0<\/h3>\n\n\n\n

Sogenannte Feedback-Loops erm\u00f6glichen es Systemen, aus Fehlern zu lernen und die eigene Leistung im Laufe der Zeit zu verbessern. Wenn ein KI-\u00dcbersetzer einen Text falsch \u00fcbersetzt, kann ein Benutzer des Systems beispielsweise diese \u00dcbersetzung als „schlecht“ markieren und eine alternative „richtige“ \u00dcbersetzung vorschlagen. Dadurch kann das System die vorgeschlagene „richtige“ \u00dcbersetzung verwenden, um seine internen Modelle anzupassen und zu verbessern. Dieser Prozess der kontinuierlichen Verbesserung<\/strong> erm\u00f6glicht es dem KI-\u00dcbersetzer, seine F\u00e4higkeiten im Laufe der Zeit autonom zu verfeinern und genauer zu werden. Es ist jedoch wichtig zu beachten, dass die Qualit\u00e4t des Feedbacks \u2013 also ob eine \u00dcbersetzung als gut oder schlecht markiert wird \u2013 und die Genauigkeit der vorgeschlagenen „richtigen“ \u00dcbersetzung einen erheblichen Einfluss auf diesen Prozess haben. Falsches oder irref\u00fchrendes Feedback, egal ob absichtlich oder unabsichtlich, k\u00f6nnte dazu f\u00fchren, dass das System inkorrekte \u00dcbersetzungen als korrekt interpretiert<\/strong>, diese Fehler in zuk\u00fcnftigen \u00dcbersetzungen wiederholt oder sogar beleidigende Inhalte in das System eingebettet werden.\u00a0<\/p>\n\n\n\n

Damit das nicht passiert, sollten diese Feedbacks sorgf\u00e4ltig \u00fcberpr\u00fcft und moderiert werden. Das k\u00f6nnte eine Kombination aus automatisierten Systemen und menschlichen Pr\u00fcfern sein. Auf diese Weise kann das Risiko minimiert werden, dass falsches oder irref\u00fchrendes Feedback die Leistung oder die Genauigkeit des KI-\u00dcbersetzers beeintr\u00e4chtigt.\u00a0<\/p>\n\n\n\n

Ergebnisse m\u00fcssen gepr\u00fcft werden\u00a0<\/h3>\n\n\n\n

In jedem KI-System kann es zu sogenannten \u201eOverfitting\u201c (dt. \u201e\u00dcberanpassung\u201c) kommen. Overfitting<\/strong> tritt auf, wenn ein Modell so sehr an die Trainingsdaten angepasst ist, dass es an Flexibilit\u00e4t verliert und bei neuen, unbekannten Daten schlecht abschneidet. Dadurch lernt das KI-System nicht, die zugrundeliegenden Muster zu erkennen. Das f\u00fchrt zu ungenauen Vorhersagen und einer schlechten allgemeinen Leistung des Modells.\u00a0<\/p>\n\n\n\n

Um sicherzustellen, dass dieses Verhalten bei einem Systemtest erkannt wird, sollte ein separater, unabh\u00e4ngiger Testdatensatz verwendet werden, der nicht f\u00fcr das Training benutzt wurde \u2013 oder besser gesagt, nicht benutzt werden kann. Im vorherigen Kapitel<\/a> habe ich bereits auf dieses Thema aufmerksam gemacht.\u00a0<\/p>\n\n\n\n

Angriff auf pers\u00f6nliche Daten\u00a0<\/h3>\n\n\n\n

Wie schon zuvor genannt, werden Trainingsdaten ben\u00f6tigt, damit ein KI-System \u00fcberhaupt funktionieren kann. Dabei sollte man jedoch sicherstellen, dass diese Daten keine personenbezogenen oder privaten Informationen<\/strong> beinhalten, etwa wie Namen, Adressen, Telefonnummern oder andere identifizierende Merkmale. Werden diese Daten dennoch f\u00fcr das Training eines KI-Systems verwendet, besteht das Risiko, dass die Privatsph\u00e4re der betroffenen Personen verletzt wird. Denn ein Angreifer k\u00f6nnte potenziell Zugang zu diesen Daten erlangen<\/a> und sie f\u00fcr unerw\u00fcnschte Zwecke missbrauchen<\/strong>.\u00a0<\/p>\n\n\n\n

Um gezielte Werbung, Identit\u00e4tsdiebstahl oder gar Erpressung durch den Einsatz eines KI-Systems zu verhindern, sollten alle mit der KI in Verbindung stehenden Daten anonymisiert<\/strong> werden \u2013 darunter vor allem Trainingsdaten. Die Bereinigung der Daten sollte auch Bestandteil der Feedback-Loop sein. Sonst besteht ebenfalls die Gefahr, dass eingegebene Informationen ungefiltert weiterverwendet werden.\u00a0<\/p>\n\n\n\n

Weitere Risiken\u00a0<\/h3>\n\n\n\n

Die bisher genannten Aspekte stellen nur eine kleine Auswahl der Risiken dar. Weitere Risiken sind:\u00a0<\/p>\n\n\n\n