KI-Talk-Serie, Folge 2: Die Vor- und Nachteile von KI
Willkommen zurück zu unserer KI-Talk-Serie, in der wir KI-Erkenntnisse und Vorhersagen von LILTs Mitbegründern und Experten teilen. Wenn Sie keine Gelegenheit hatten, sich Episode 1 anzuschauen, finden Sie hier einen Link zum Artikel. Diese Woche besprechen wir die Vor- und Nachteile von KI für Unternehmen und die Lokalisierungsbranche.
Ein wenig Hintergrundwissen über unsere Experten: Die Gründer von LILT, Spence Green und John DeNero lernten sich bei Google kennen, während sie am Programm von Google Translate arbeiteten. Als Forscher an Stanford und Berkeley haben beide Erfahrung in der Arbeit mit natürlicher Sprachtechnologie, um Informationen für alle zugänglich zu machen. Sie waren erstaunt, als sie hörten, dass Google Translate nicht für Unternehmensprodukte und -dienste innerhalb des Unternehmens verwendet wurde, und gründeten ihr eigenes Unternehmen, um diesem Bedarf gerecht zu werden – LILT.
Die KI-Technologie von LILT ähnelt ChatGPT und Google Translate, bevor unsere patentierte kontextbezogene KI, der Connector-First-Ansatz und das vom Menschen angepasste Feedback verwendet werden. Wir haben uns mit Spence und John zusammengesetzt, um mehr über große Sprachmodelle und ihre Gedanken zu KI zu erfahren.
Was sind die Hauptvorteile und Nachteile von generativer KI?
John: Beginnen wir mit der Definition von generativer KI. Generative KI ist, wenn ein Computer etwas erstellt – oft von Grund auf neu oder anhand einer Eingabeaufforderung. Das Erstellen einer Übersetzung ist also eine generative KI, aber sie kann auch Bilder, Videos und andere Medienformate erstellen. Es ist schwierig, weil diese Dinge, die generiert werden, komplex in der Struktur sind. Sie treffen nicht nur eine einzige Entscheidung.
Spence: Einige der maschinellen Lernsysteme, mit denen die Leute vielleicht vertraut sind, dienen der Beschriftung von Bildern oder Sätzen, bei denen Sie nur Dinge kategorisieren. Hier generieren Sie strukturierte Objekte von Grund auf neu und basieren auf einigen Eingaben, und die Übersetzung ist offensichtlich ein Beispiel dafür.
John: Und Menschen sind so gut darin, Sprache zu generieren, dass wir nicht unbedingt merken, wie viele Möglichkeiten es schief gehen kann. Wenn Sie einen langen Satz haben, gibt es nur eine lange Liste von Möglichkeiten, wie etwas nicht stimmt. Und das ist es, was generative KI schwer macht und warum es eine Weile dauerte, bis die Durchbrüche erzielt wurden, die wir heute sehen. Es gibt tausend verschiedene Faktoren, die Sie bei jedem Satz richtig machen müssen: Wortwahl, Zustimmung, Reihenfolge und ob Sie das richtige Maß an Spezifität oder Mehrdeutigkeit haben. Und jetzt haben wir Systeme, die all diese Dinge auf einmal verarbeiten können, was ziemlich erstaunlich
ist.Der Hauptvorteil ist, dass viel mehr Generationsarbeit auf der Welt erledigt werden sollte, als die Menschen wirklich tun können. Übersetzung ist ein hervorragendes Beispiel, da es so viele Inhalte gibt, die in so viele Sprachen in Publikationsqualität übersetzt werden sollten – so dass die Erfahrung der Menschen nicht beeinträchtigt wird, wenn sie sie in einer anderen Sprache lesen – aber nicht alles wird übersetzt, da es weltweit nur so viele Übersetzer gibt, die die Arbeit übernehmen. Und die Kosten sind so, dass es einfach nicht passiert.Das
ist wirklich schade. Ich denke, dass das Versprechen der generativen KI darin besteht, mehr in der Welt zu erledigen und sicherzustellen, dass alle wichtigen Arbeiten, die das moderne Leben ermöglichen, stattfinden, indem die Menschen mit den professionellen Fähigkeiten ausgestattet werden, um diese Arbeit mit KI zu erledigen.
Welche Versprechen und Chancen bietet KI, die sich auf den Tagesbetrieb von Unternehmen auswirken können?
Spence: Für Übersetzungen haben wir diese Systeme entwickelt, in denen Sie KI verwenden, um die Generierung zu verbessern. Außerdem hilft es Ihnen, das Problem zu lösen, dass Sie bei Übersetzungsarbeiten ein neues Dokument zum Übersetzen erhalten und nur eine leere Seite haben – und damit beginnen Sie. Im Gegensatz zu jetzt können Sie mit der besten Vorhersage des Computers beginnen, was diese Übersetzung ist. Und dann verfeinert es seine Vorhersagen, während Sie zusammenarbeiten. Ich denke, dass die Ausweitung dieser generativen KI-Technologie auf andere Arten von Arbeit ausgedehnt werden wird, sei es das Schreiben von Marketingartikeln oder die Erstellung von Schulungsdokumentationen.
Ich denke, dass es viele Möglichkeiten für die Erstellung von Informationen gibt, die normalerweise mit einem leeren Cursor oder einer leeren Leinwand in Photoshop begannen, wo Sie jetzt mit einer Maschinenvorhersage beginnen können, die Sie in Bewegung bringt. Dadurch werden Sie bei der Arbeit, die Sie erledigen, nur effizienter.
John: Ja, genau. Ich denke, dass jeder in einem Geschäftsumfeld weiß, dass es wichtige Dinge gibt, die immer wieder verzögert werden, weil es einfach nicht die Fähigkeit gibt, alles zu tun, was getan werden sollte. Was mit generativer KI passiert, was interessant ist, ist, dass Sie sie manchmal auffordern, ein Dokument zu generieren, und sie macht es wirklich gut, und dann manchmal verpasst sie etwas Wichtiges. Manchmal geht es nur um das falsche Thema oder es erfasst nicht die Hauptidee, die Sie vermitteln
wollten.Daher gibt es eine Rolle für die Menschen, um herauszufinden, ob es das Richtige war. Und das könnte sehr schnell gehen. In einigen Fällen lesen Sie die ersten Sätze und sehen, dass ein ganzer Abschnitt perfekt ist. Aber dann gehen Sie nach unten und sagen: „Oh, eigentlich wollte ich etwas anderes für diesen anderen Teil.“
Und Sie müssen es neu schreiben. Das ist nur ein Teil der Arbeit mit einem generativen KI-System und eines Plans für die Prüfung, wie die Ausgabe validiert und überarbeitet werden kann. Das ist die Art von Sachen, die Sie mit dem richtigen Prozess lösen können. Bei LILT haben wir einen recht umfangreichen Prozess, um sicherzustellen, dass es keine Probleme mit den tatsächlichen endgültigen Übersetzungen gibt, selbst wenn es in der ursprünglichen generativen KI-Ausgabe vorhanden
war.Dieser Validierungsprozess ist wirklich kritisch und gilt für andere Dinge. Wissen Sie, besonders in Spence, wenn wir über die Generierung von Marketinginhalten oder Schulungsinhalten sprechen, müssen die Leute Teil des Prozesses sein, die KI zu überwachen und ihre Arbeit zu korrigieren, genau wie Sie es mit einem Junior-Mitarbeiter tun würden.
Spence: Total. Es ist das gleiche Konzept wie ein Redakteur in der Redaktion oder ein Senior Partner, der die Arbeit eines Junior-Partners in einer Anwaltskanzlei überarbeitet oder überprüft. Dieselbe Idee. Erst jetzt ist der Junior-Partner ein KI-System und kein Mensch.
Was sind einige Probleme mit GenAI, vor denen wir vorsichtig sein sollten?
John: Das größte Risiko, das ich sehe, ist, dass Sie wissen müssen, wie man es verwendet. Ich denke, dass es nicht wie ein Nachwuchskräfte ist, wenn man ihnen umfassende Anweisungen geben kann, und sie werden es herausfinden, weil es sich um ein KI-System handelt, nicht um eine Person. Daher reagiert es sehr sensibel auf die Eingaben und Eingaben, die Sie bereitstellen. Es gibt wirklich viel Sorgfalt in der Technik und Design, die in die Eingabeaufforderung des Systems einfließt, damit Sie nützliche Ergebnisse erhalten, mit denen Sie arbeiten können.
Dies ist ein neuer Zweig der angewandten künstlichen Intelligenz – wir finden heraus, wie wir ein großes generatives System verwenden und es tatsächlich dazu bringen können, die nützlichsten Ergebnisse zu erzielen, damit es eine höhere Effizienz ermöglicht. Die Idee, dass Sie einfach jede Frage stellen können, die Sie wollen und dass es immer das Richtige tut, ist die falsche Denkweise. Stattdessen müssen Sie wirklich große Sorgfalt darauf achten, das System aufzufordern, um die richtigen Ergebnisse zu erzielen.
Spence: Ja. Eines der Dinge, über die ich nachgedacht habe, ist, dass es jetzt einige Produkte gibt, die E-Mail-Ketten oder ein Meeting zusammenfassen – und diese Arten von Arbeitsprodukten werden verwendet, um Entscheidungen zu
treffen.Und ich denke, dass es zunehmend KI-generierte Texte, Memos, Präsentationen und Zusammenfassungen geben wird, die als Grundlage für die Entscheidungsfindung dienen. Menschen haben diese Voreingenommenheit, die als Algorithmus-Aversion bekannt ist, d. h. sie haben in der Regel einen höheren Standard für Maschinen als für Menschen.
Wenn also eine Person einen Fehler macht, versteht sie das. Aber wenn Maschinen Fehler machen, haben die Menschen einen viel höheren Standard. Dies war beispielsweise eine der Herausforderungen bei selbstfahrenden Autos. Es gibt viele Autounfälle auf der Straße. Und jeder weiß, dass Menschen Fahrfehler machen und Unfälle haben, aber sobald eine Maschine ein Unglück hat, steht sie auf der
Titelseite.Ich frage mich, wenn diese Systeme in die tägliche Entscheidungsfindung und das Geschäft einbezogen werden – und es wird sicherlich eine Art Randfall sein –, ob diese Fehler in irgendeiner Weise verstärkt werden, weil es sich um eine maschinengesteuerte Entscheidung handelt. Ich frage mich, wie Unternehmen das bewältigen werden.
John: Das ist ein großartiger Punkt. Ich denke, dass die Leute diesen Systemen sehr kritisch gegenüberstehen werden, wenn sie Probleme verursachen – selbst wenn diese Probleme möglicherweise mit Menschen und ohne die Technologie existierten. Und ich finde das toll. Ich denke, dass wir mit KI am Ende bessere Entscheidungen treffen sollten, als wir ohne KI getroffen haben.
Ebenso sollte bei selbstfahrenden Autos meiner Meinung nach das Ziel sein, dass es in Zukunft viel weniger Unfälle auf der Straße geben sollte als heute. Dasselbe gilt für die Übersetzung. Die Ergebnisse sollten sein, dass die Übersetzungsqualität mit KI-Unterstützung konsistenter und besser ist – was wir bei LILT beobachten.
Was passiert, wenn Sie Menschen coachen, ihre Arbeit im Laufe der Zeit besser zu machen, kann jede Person nur so viele Zusammenfassungen schreiben oder so viele Entscheidungen treffen. Und so kann man wirklich nicht 50 Jahre investieren, um jemanden zu trainieren, nur damit er ein Jahr lang einen Job erledigen kann. Aber mit KI, weil sie so skalierbar ist, können Sie sie nach der Erstellung viele Autos fahren oder viele Sätze übersetzen lassen. Es ist sinnvoll, viel in die Qualität der erzeugten Produkte zu
investieren.Deshalb gibt es LILT. Wir können unser Fachwissen darauf konzentrieren, wie Übersetzungen gut funktionieren können. Wir haben hier ein großes Forschungsteam, um dies zu tun, was viel mehr ist, als Sie investieren würden, wenn Sie nur eine kleine Gruppe von Übersetzern trainieren
würden.Denn sobald wir das System erstellt haben, können wir es für viele Inhalte verwenden. Das ist gut berechtigt. Und ich denke, dass dies die gleiche Geschichte ist, die mit der Zusammenfassung einhergeht. Es gab eine unglaubliche Anzahl von Forschern und Papieren, die daran gearbeitet haben, herauszufinden, wie ein Dokument in einer kurzen Beschreibung zusammengefasst werden
kann.Aber das alles macht Sinn, denn sobald diese Technologie funktioniert, es kann so breit immer wieder verwendet werden, dass es die Investition in den Aufwand rechtfertigt.
Also ja, ich denke, es ist in Ordnung, diese Systeme auf einen wirklich hohen Standard zu stellen. Ich denke, das sollten wir von ihnen erwarten, aber wir sind jetzt nicht in jedem Fall da. Die Leute sollten sich nur bewusst sein, dass es etwas Fachwissen erfordert, damit das System das tut, was sie wollen.
* * *
Danke für das Gespräch, Spence und John! Da Unternehmen die Veränderungen und die Chancen nutzen, die vor uns liegen, wird es für globale Teams und Führungskräfte immer wichtiger, in KI-Technologien zu investieren, um wettbewerbsfähig zu bleiben. Sehen Sie sich die nächste Folge unserer KI-Serie an, um mehr über KI, große Sprachmodelle und deren Auswirkungen auf die Übersetzungsbranche zu erfahren.
