AI-gestütztes technisches Consulting

Der Bereich der künstlichen Intelligenz (KI) hat in den letzten Jahren rasante Fortschritte gemacht, vor allem im Bereich der großen Sprachmodelle (LLMs). In diesem Artikel stellen wir praktische Beispiele vor, wie ein solches Modell eingesetzt werden kann, um technische Beratungsaufgaben zu rationalisieren und die Gesamtproduktivität zu steigern.

Technische Beratung ist eine professionelle Dienstleistung, die Unternehmen und Einzelpersonen in einem bestimmten Fachgebiet wie Vertrieb, Finanzen, Marketing oder Technologie berät und unterstützt. Ein technischer Berater ist in der Regel ein Experte auf seinem Gebiet, der Ratschläge zur Verbesserung der Betriebsabläufe eines Unternehmens erteilt oder bei der Lösung bestimmter Probleme hilft.

Die Steuerung der Kundenerwartungen ist eine der größten Herausforderungen der technischen Beratung. Die Kunden sind sich nicht immer darüber im Klaren, was sie wollen oder brauchen, und es kann schwierig sein, ein Projekt einzugrenzen, wenn die Parameter unklar sind. Außerdem sind die Kunden nicht immer für die Empfehlungen des Beraters empfänglich, was zu Frustration auf beiden Seiten führen kann.

Ähnlich verhält es sich mit der Ausweitung des Projektumfangs, wenn der Umfang einer Vereinbarung allmählich über das hinausgeht, was ursprünglich geplant war. Dies kann passieren, wenn neue Probleme entdeckt werden oder wenn der Kunde zusätzliche Leistungen anfordert. Eine schleichende Ausweitung des Projektumfangs kann schwierig zu handhaben sein, da sie die Projektkosten und den Zeitaufwand für den Abschluss des Projekts erhöhen kann.

Schließlich müssen technische Berater in der Lage sein, ihre Zeit effektiv zu verwalten, um Termine einzuhalten und das Budget nicht zu überschreiten. Dies kann eine Herausforderung sein, wenn man mit mehreren Kunden mit unterschiedlichen Bedürfnissen zusammenarbeitet.

Im Allgemeinen kann die technische Beratung ein lohnender, aber auch anspruchsvoller Beruf sein. Kommunikations- und Projektmanagementfähigkeiten sowie ein tiefes Verständnis für das Geschäft des Kunden sind unerlässlich.

In Anbetracht der Tatsache, dass große KI-Modelle, insbesondere LLMs, in den letzten Jahren erhebliche Fortschritte gemacht haben, sollten wir versuchen, sie zur Verbesserung der Beratungsprozesse einzusetzen.

Was sind LLMs?

Sprachmodelle sind eine Art von künstlicher Intelligenz, die Texte lesen und verstehen kann.

Ein großes Sprachmodell (Large Language Model, LLM) ist ein maschinelles Lernmodell, das auf einem sehr großen Textkorpus trainiert wird. Während das Modell die statistischen Beziehungen zwischen den Wörtern erlernt, erzeugt es kohärente und "echt aussehende" Originaltexte. Es kann für eine Vielzahl von Aufgaben eingesetzt werden, unter anderem für die automatische Übersetzung, die Zusammenfassung und die Beantwortung von Fragen.

Sprachmodelle gibt es schon lange, aber sie sind erst in jüngster Zeit anspruchsvoller und leistungsfähiger geworden. Die Veröffentlichung des GPT-3-Modells durch OpenAI im Jahr 2020 war ein wichtiger Meilenstein in der Entwicklung von LLMs.

Durch die Entwicklung neuer Trainingstechniken und die Verfügbarkeit von mehr Trainingsdaten sind die Sprachmodelle in den letzten Jahren immer leistungsfähiger geworden. GPT-3 ist wohl das bisher leistungsfähigste Sprachmodell, aber es gibt eine wachsende Zahl von Alternativen, wie z. B. BLOOM.

Wie kann man mit einem LLM wie GPT-3 interagieren?

GPT-3 ist ein Modell, auf das über eine Webschnittstelle oder eine API von OpenAI zugegriffen werden kann. Die Interaktion ist vollständig textbasiert. Der Text wird eingefügt und geschrieben, und die KI hat die Aufgabe, die ihr gegebenen Informationen zu ergänzen, zu erweitern, zu bearbeiten oder zu ersetzen.

Da GPT-3 ein Zero-Shot-Modell ist, müssen Sie es nicht trainieren, bevor Sie es verwenden. Es kann jedoch vorkommen, dass Sie dem System zunächst einen gewissen Kontext zur Verfügung stellen möchten, z. B. Schlüsselwörter oder verschiedene Texte, die es berücksichtigen soll.

Wenn Sie GPT-3 nach einer Dokumentenzusammenfassung befragen und Fragen zum Grundwissen stellen, ist es oft sinnvoll, so spezifisch wie möglich zu sein. Anstatt einfach zu fragen: "Was ist die Zusammenfassung dieses Dokuments?" oder "Was sind die Hauptpunkte dieses Dokuments?", sollten Sie beispielsweise fragen: "Was ist die Zusammenfassung dieses Dokuments zum Thema [Thema hier einfügen]?". So kann das GPT-3 Ihre Frage besser verstehen und eine genauere Antwort geben.

Use-Cases für LLMs in der technischen Beratung

💡 Text highlighted green is AI generated.

Zusammenfassung und Abfragen in natürlicher Sprache

LLMs können verwendet werden, um automatisch Zusammenfassungen von Dokumenten zu erstellen, was dem Berater bei der Durchsicht einer großen Anzahl von Dokumenten Zeit sparen kann. Außerdem können LLMs zur Beantwortung natürlichsprachlicher Anfragen von Kunden verwendet werden. Dies kann dem Berater helfen, schnell die Informationen zu finden, nach denen der Kunde sucht.

Internal onboarding

Getting a team member up to speed on a new or existing project can be time consuming, as all requirements, developments, client interactions have to be relayed to the new consultant. When priming a LLM with the project details, past meeting/workshop notes and requirement documents, a consultant can quickly generate and ingest a project summary that is customized to their needs in terms of complexity and scope.

Außerdem kann die KI genutzt werden, um den Fortschritt des Projekts zu überwachen und Bereiche zu ermitteln, die einer weiteren Diskussion bedürfen.

Letztlich können Sie durch die Verwendung von großen Sprachmodellen den Prozess der Einarbeitung Ihrer Berater rationalisieren und sicherstellen, dass alle von Anfang an auf derselben Seite stehen.

Fragen an den Kunden stellen

Nach dem Priming hat die KI ein Verständnis für das Projekt, den Fortschritt und die zu lösenden Probleme. Bei der Beratung von Klienten besteht in der Regel die Notwendigkeit, ständig Fragen zu formulieren und zu stellen, wenn sie auftauchen, um bestimmte Themen zu klären. Ein LLM kann nützlich sein, um einige der Fragen zu generieren.

Erkundung von Datenstrukturen

Die Datenexploration ist ein wichtiger Teil eines jeden Datenberatungsprojekts. Sie ermöglicht es uns, die Daten des Kunden zu verstehen, etwaige Beziehungen oder Korrelationen zu erkennen und festzustellen, wie die Daten zur Beantwortung der Fragen des Kunden verwendet werden können. Es hilft uns auch, zusätzliche Daten zu identifizieren, die benötigt werden, um das Projekt voranzubringen und die Herausforderungen zu lösen, denen der Kunde gegenübersteht.

Wenn wir das LLM richtig vorbereiten, ist es möglich, nach interessanten Beobachtungen oder Unstimmigkeiten in den Datenstrukturen zu suchen und dieses Wissen zu nutzen, um neue Daten anzufordern oder Fragen zu klären, die wir möglicherweise haben.

Dokumentation

Ein Beratungsprojekt erfordert eine umfangreiche Dokumentation, um erfolgreich zu sein. Diese Dokumentation umfasst unter anderem Kundenanforderungsdokumente, Besprechungsnotizen, Datenpipelines und Prozessabläufe. Ein LLM kann bei der Erstellung dieser Dokumentation behilflich sein und sie bei Bedarf an verschiedene Personas anpassen. Dies ist wichtig, da ein technischer Kontakt eine andere Dokumentation benötigt als ein nicht-technischer Kundenkontakt. Durch den Einsatz eines LLM kann der Dokumentationsprozess rationalisiert und effizienter gestaltet werden.

‍

Vorbehalte

Parameter

Moderne LLM-Modelle geben dem Endnutzer eine große Anzahl von Parametern vor. Dies reicht von der Auswahl des geeigneten Motors (im Fall von GPT-3 ist der Davinci-Motor der leistungsstärkste, aber auch der teuerste) bis hin zur Einstellung von Temperatur, Strafe und einer Reihe anderer Parameter.

Mit den Standardparametern eines solchen Modells lässt sich schon viel erreichen, aber die richtige Einstellung kann das Ergebnis wirklich verbessern.

Auch wenn es der Rahmen dieses Artikels nicht zulässt, hier zu sehr ins Detail zu gehen, sollten Sie wissen, dass die Optimierung der Modellparameter für bestimmte Anwendungsfälle von entscheidender Bedeutung ist, insbesondere bei der Erstellung von Dokumentationen oder anderen kundenorientierten Ausgaben.

Halluzinationen

Ein Phänomen, das bei einem KI-Modell für große Sprachen auftreten kann, ist die Halluzination. Dies ist der Fall, wenn das Modell eine neue Eingabe erhält, die es noch nie zuvor gesehen hat, und diese auf eine Weise interpretiert, die nicht mit der Realität übereinstimmt. Dies kann zu ungenauen Ergebnissen führen und sollte genau beobachtet werden.

Datenschutz

Bei der Weitergabe von Daten an einen KI-Dienst ist es wichtig, den Datenschutz und die Datensicherheit zu berücksichtigen. KI-Dienste können Daten sammeln und speichern, einschließlich personenbezogener Daten, die zur Identifizierung von Personen verwendet werden könnten. Diese Daten können verwendet werden, um die Leistung des KI-Dienstes zu verbessern oder für andere Zwecke. Es ist wichtig, sich darüber im Klaren zu sein, wie die Daten erhoben, gespeichert und verwendet werden, und sicherzustellen, dass angemessene Schutzmaßnahmen getroffen werden.

Arbeitsplätze ersetzen

Selbst wenn wir das immer weiter entfernte Ziel der allgemeinen künstlichen Intelligenz erreichen, kann selbst ein hochentwickeltes LLM den menschlichen Berater noch nicht ersetzen. Der menschliche Aspekt der Beratung liegt im persönlichen Kontakt, im Aufbau von Kundenbeziehungen, in den feinen Nuancen der zwischenmenschlichen Kommunikation und im erfolgreichen Management von Projekten auf hohem Niveau. LLMs können jedoch ein großartiges Werkzeug sein, um diese Gespräche zu konzentrieren und zu unterstützen und das Projekt zu beschleunigen.

Kosten

OpenAI erhebt eine variable Gebühr für X-Tokens, je nachdem, mit welcher KI-Engine Sie sich verbinden. Die teuerste Engine berechnet etwa 0,6 $ (60 Cent) pro 750 generierte Wörter. Die Kosten sind im Vergleich zu den Stundensätzen eines Beraters meist vernachlässigbar, aber es lohnt sich, die Kosten wie bei jedem anderen SaaS-Tool (z. B. für die Infrastruktur) zu kontrollieren, das nach dem Prinzip "Pay-per-Use" funktioniert

LLMs und darüber hinaus

Die Technologie der künstlichen Intelligenz entwickelt sich in erstaunlichem Tempo weiter, und damit auch die möglichen Anwendungen für große KI-Sprachmodelle. Eine dieser Anwendungen, die die Aufmerksamkeit vieler auf sich gezogen hat, ist die Text-zu-Bild-Generierung, die das Potenzial hat, die Art und Weise zu revolutionieren, wie wir visuelle Inhalte erstellen und konsumieren.

Mit der Text-zu-Bild-Generierung werden Unternehmen in der Lage sein, realistische Bilder aus Textbeschreibungen mit wenig oder gar keinem menschlichen Input zu erstellen. Dies könnte die Art und Weise, wie Unternehmen Produkte erstellen und vermarkten, sowie die Art und Weise, wie wir Nachrichten und Informationen konsumieren, tiefgreifend beeinflussen.

Für Unternehmen könnte die Text-zu-Bild-Generierung genutzt werden, um realistische Produktbilder für Websites und Kataloge zu erstellen. Dadurch könnten die Unternehmen Zeit und Geld für Produktfotografie sparen und außerdem eine einheitlichere und genauere Produktdarstellung auf verschiedenen Plattformen erreichen.

Die Text-zu-Bild-Generierung könnte auch für die Erstellung von Nachrichtenbildern verwendet werden, die den Nachrichtenkonsumenten ein intensiveres und realistischeres Erlebnis bieten würden. Dies könnte sich besonders stark auf die Art und Weise auswirken, wie wir aktuelle Nachrichten konsumieren, da in Echtzeit generierte Bilder ein unmittelbareres und realistischeres Verständnis der sich entfaltenden Ereignisse vermitteln würden.

In Zukunft wird die Generierung von Text in Bilder wahrscheinlich immer realistischer und verbreiteter werden, und sowohl Unternehmen als auch Privatpersonen werden neue und innovative Wege finden, um diese leistungsstarke Technologie zu nutzen.

Zusammenfassung

In den letzten Jahren hat die Technologie der künstlichen Intelligenz rasante Fortschritte gemacht, insbesondere im Bereich der großen Sprachmodelle (LLMs). Diese Modelle können zur Rationalisierung einiger Arbeitsabläufe in der technischen Beratung eingesetzt werden, z. B. zur Identifizierung relevanter Dokumente oder zur Analyse von Textdaten. Darüber hinaus kann KI dazu verwendet werden, sich wiederholende Aufgaben wie die Dateneingabe oder die Erstellung von Berichten zu automatisieren. Dadurch kann die Zeit des Beraters für strategischere Aufgaben genutzt werden.

LLMs können für eine Vielzahl von Aufgaben in der technischen Beratung eingesetzt werden, z. B. für die Zusammenfassung von Dokumenten oder die Beantwortung natürlichsprachlicher Anfragen. Außerdem können LLMs dabei helfen, Fragen für Kunden zu generieren oder Datenstrukturen zu untersuchen. Schließlich können LLMs auch zur Erstellung von Dokumentationen für ein Beratungsprojekt verwendet werden.

Während große Sprachmodelle viele potenzielle Anwendungen haben, gibt es auch einige Fallstricke, die man beachten sollte, wie z. B. Datenschutz- und Sicherheitsbedenken oder das Potenzial für ungenaue Ergebnisse.

LLMs werden wahrscheinlich noch leistungsfähiger werden, wenn neue Trainingstechniken und mehr Trainingsdaten verfügbar werden. Dies wird es den Modellen ermöglichen, noch realistischere und flüssigere Texte zu generieren.

💡 Get in touch with us at info@contiamo.com if you are interested in learning more about how LLMs and other artificial intelligence technologies can benefit you or your business.

Über diesen Artikel

Dieser Artikel wurde mit Hilfe von GPT-3 konzipiert und verfasst, mit Wordtune redigiert und natürlich von Menschenhand überprüft und bearbeitet.

‍