KI-Talk-Serie, Folge 1: LLM — Warum ist jetzt die Zeit für KI?
Willkommen beim ersten Blog-Beitrag unserer KI-Talk-Serie, in der wir KI-Erkenntnisse und Vorhersagen der Mitbegründer und Experten von LILT teilen. In den nächsten Wochen werden Sie viel über große Sprachmodelle, kommende Trends in der Lokalisierungsbranche und die geschäftlichen Auswirkungen von generativer KI erfahren. Fangen wir gleich an!
Ein paar Hintergrundinformationen zu unseren Experten: Die Gründer von LILT, Spence Green und John DeNero, lernten sich bei Google kennen, während sie am Programm von Google Translate arbeiteten. Als Forscher an den Universitäten Stanford und Berkeley haben beide Erfahrung darin, Informationen mithilfe von Technologie für natürliche Sprache für alle zugänglich zu machen. Sie waren erstaunt zu hören, dass Google Translate nicht für Unternehmensprodukte und -dienste im Unternehmen verwendet wurde, und gründeten ihr eigenes Unternehmen, um diesem Bedarf nachzukommen – LILT.
Die KI-Technologie von LILT ähnelt ChatGPT und Google Translate, bevor unsere patentierte kontextbezogene KI, der Konnektor-Ansatz und das Feedback vom Menschen angepasstem Feedback vorliegen. Wir haben uns mit Spence und John zusammengesetzt, um mehr über große Sprachmodelle und ihre Gedanken zu KI zu erfahren.
Was hat ChatGPT der Branche seit seiner Einführung vor einigen Monaten gebracht und hat es tatsächlich etwas geändert?
John: In den letzten Jahren hat sich viel getan. Ich bin mir nicht sicher, ob sich in den letzten Monaten viel geändert hat, aber in den letzten Jahren haben wir eines der Hauptziele der KI endlich verwirklicht – nämlich ein System, das aus Daten lernen kann, ohne die Lernprozesse aus den Daten zu beeinträchtigen. Es ist unglaublich. Jedes Mal, wenn man etwas Intelligentes macht, muss man eine Darstellung der Welt haben, die für die Sache relevant ist, die man tun will. Und jetzt haben wir Computer, die ihre eigene Darstellung akkurat selbst auswählen können, um zu tun, was immer wir von ihnen verlangen.
Spence: Wissen Sie, insbesondere mit ChatGPT, wurde das GPT-3-Papier im Jahr 2020 veröffentlicht. Die Erstellung dieser groß angelegten Sprachmodelle ist also kein Durchbruch in den letzten zwei Monaten. Im Laufe der letzten 10 Jahre haben wir wirklich aufgabenspezifische Systeme und Modelle gebaut. Mit Deep Learning können wir jetzt ein allgemeineres Lern-Framework für viele verschiedene Aufgaben verwenden, was eine enorme Veränderung im Vergleich zu vor fünf oder sechs Jahren ist.
John: Ich glaube, dass ChatGPT eine große Innovation war. Nur war es nicht wirklich eine KI-Innovation. Es war eher eine Innovation der Benutzeroberfläche – dass sie so eingerichtet wurde, dass die Leute auf leicht verständliche Weise damit interagieren und ohne Schulung damit umgehen können.
Wie definieren Sie große Sprachmodelle (Large Language Models, LLMs) und generative KI?
John: Generative KI ist ein Computersystem, das Dinge generieren kann, von denen wir bisher dachten, dass sie nur Menschen erzeugen könnten – Kunst, Fotos, Aufsätze und Übersetzungen. Das Wort „generativ“ bedeutet also, dass die KI Dinge schaffen kann, für die früher menschliche Ausdruckskraft und Kreativität erforderlich waren.
Immer wenn Sie ein ganzes Dokument verfassen oder ein ganzes Bild generieren, ist es generative KI. Und was die KI ausmacht, ist dass sich die Ergebnisse von allen anderen Beispielen unterscheiden, die sie zuvor gesehen hat, weil sie diese Synthese macht. Übersetzung ist definitiv eine Generierung. Wie die Ergebnisse aussehen sollen, ist nur ziemlich eingeschränkt.
Ein großes Sprachmodell hat Unmengen von Texten betrachtet, normalerweise aus dem Web, und ist so eingerichtet, dass es neuen Text basierend auf den beobachteten Mustern nachbildet.
Und es kann zwei Dinge tun: Es kann so etwas wie lesen, und zwar kodiert es Ihren Text, um den Kontext für die Generierung von neuem Text zu ermitteln, und dann kann es einen neuen Text generieren.
Können Sie den Unterschied zwischen allgemeiner und spezifischer KI erklären und wie dies für ChatGPT und LILT gilt?
John: Ein Übersetzungsmodell sieht also wie ein großes Sprachmodell aus, mit der Ausnahme, dass der Inhalt in einer anderen Sprache ist als die generierte Sprache. Und es kommt vor, dass die Übersetzungsmodelle eine bestimmte Sache gut beherrschen, nämlich die Übersetzung, während Sprachmodelle für viele verschiedene Dinge verwendet werden können, weil man bei der Eingabe jede Frage stellen kann und eine Antwort darauf generiert wird.
Wie sieht die Zukunft aus und warum freuen Sie sich darauf? Wie werden LLM und generative KI vermutlich in 5 Jahren aussehen?
John: Wenn ich über LILT hinaus denke, gibt es Fälle, in denen die Arbeit der Leute in den wirklich interessanten Teil unterteilt ist, in dem sie ihr Fachwissen benötigen, und dann gibt es nur noch einige Plackerei, einen Bericht darüber zu schreiben, was sie getan haben. Es fühlt sich fast so an, als ob ein Computer das schaffen könnte – wenn der Computer nur Texte schreiben könnte. Jetzt haben wir Computer, die Texte schreiben können. Daher könnte es sein, dass jemand in dieser Position mehr Zeit mit der Tätigkeit verbringen kann, die ihm wirklich wichtig ist. Ein Arzt könnte beispielsweise mehr Zeit mit Patienten verbringen und weniger Zeit mit dem Schreiben von medizinischen Berichten, da ein Teil davon KI-gestützt wäre.
Spence: Ich glaube, eines der Dinge, auf die ich mich in LILT freue, über das wir vor langer Zeit gesprochen haben und das unsere Arbeit an der Korrektur von Grammatikfehlern motiviert hat, ist die Beseitigung des Konzepts eines Styleguides und stattdessen das Lernen aus Daten und früheren Texten, die ein Unternehmen generiert hat. Es wäre cool, wenn das System frühere englische Texte lesen und sagen könnte: „Das ist der Styleguide und so generieren wir ihn auf Französisch.“
* * *
Danke für das Gespräch, Spence und John! Da Unternehmen die Veränderungen und die Chancen nutzen, die vor uns liegen, wird es für globale Teams und Führungskräfte immer wichtiger, in KI-Technologien zu investieren, um wettbewerbsfähig zu bleiben. Sehen Sie sich die nächste Folge unserer KI-Serie an, um mehr über KI, große Sprachmodelle und ihre Auswirkungen auf die Übersetzungsbranche zu erfahren.
