KI für die STARFACE Business-Telefonie

Auf der STARFACE Roadshow in München (20.03.2025) und Karlsruhe (02.04.2025) hatten wir unsere Entwicklungen im Bereich der KI-Assistenzsysteme bereits gezeigt. Interessenten konnten diese live testen.

Aufgrund des überwältigenden Feedbacks und dem vielfachen Wunsch, diese Systeme am liebsten überall und sofort einsetzen zu wollen, möchten wir im heutigen Blogartikel über den aktuellen Entwicklungsstand informieren und erläutern, warum scheinbar fertige Systeme eventuell noch nicht kommerziell verfügbar sind.

Woran arbeiten wir?

• Lokal ausführbare KI-Modelle: Fluxpunkt GAIA
  
  Unter dem Namen G.A.I.A. (General AI Assistant) möchten wir spezialisierte KI-Assistenz-Modelle für Transkription, Zusammenfassung von Texten und Datenanalyse anbieten.
  Die Herausforderung besteht darin, die geforderten Fähigkeiten auf Systemen mit eingeschränkten Ressourcen umzusetzen – bei gleichzeitig ausreichender Performance.
  Ein Transkriptionsmodell muß keine Bilder verstehen oder Webseiten erstellen können. Die Zusammenfassung von Gesprächen erfordert Kontextverständnis, aber üblicherweise nicht mehr als eine Sprache. Für jeden Anwendungsfall gibt es eine gut geeignete „sachverständige KI“, die die Aufgabe schneller und besser umsetzt, als gigantische Multi-Billionen-Parameter-Modelle.
  
  
• Hardware: die GAIA Appliance
  
  Für viele Anwendungsfälle ist es wünschenswert oder (unter Datenschutzgesichtspunkten) gar notwendig, dass die Verarbeitung lokal, im eigenen Unternehmen stattfindet. Sensible Daten dürfen nicht unbedacht an Dritte übermittelt werden. Damit die zuvor genannten Modelle lokal ausgeführt werden können, ist spezielle Hardware notwendig. Ein konkretes KI-Modell hat konkrete Anforderungen an Arbeitsspeicher, Speicherbandbreite und Rechenleistung, um die geforderte Anzahl an Tokens pro Sekunde zu leisten.
  
  
• Software
  
  KI läßt sich auf vielfältige Weise nützlich in Unternehmen einsetzen. Vertriebs- oder Service-Mitarbeiter müssen Vereinbarungen oder Supportvorgänge dokumentieren, was nicht unerheblichen zeitlichen Aufwand erfordert. Eine KI, die Gespräche mithört und mitschreibt, kann diese Arbeit quasi nebenbei erledigen – qualitativ viel besser, als ein Mensch.
   Call Recording und Power Desk
   Memo AI
  
  KI kann aufgezeichnete Voicemail-Nachrichten transkribieren und diese für eine schnellere Wahrnehmung per Push-Nachricht oder E-Mail an den Empfänger schicken.
   Voicemail AI Assistent (V.A.I.A.)
  
  KI kann dynamisch Texte sprechen oder interaktiv domänenspezifische Gespräche mit Anrufern führen.
   Feiertagsansagen mit Happy Holiday
   Interaktive Sprachmenüs mit Pro IVR
  
  KI kann statistische Daten auswerten, Zusammenhänge aufzeigen und Handlungsempfehlungen geben.
   Insight Analytics

Es funktioniert, wir haben es gezeigt – aber wann ist es erhältlich?

Es ist eine Sache, ein Produkt im eigenen (bekannten) Umfeld einzusetzen, aber eine völlig andere, dieses für verschiedene Umgebungsbedingungen und Anwendungsfälle kompatibel und leicht bedienbar zu machen.

Beispielsweise verfügt nicht jeder über die notwendige Hardware und Rechenleistung, um die erforderlichen KI-Modelle selbst auszuführen. In vielen Fällen werden externe Dienste diese Aufgabe übernehmen müssen. Diese Dienste müssen leicht und sicher angebunden werden können und die Nutzung muß abgerechnet werden können. Der Kunde benötigt eine Übersicht über die angefallenen Kosten, muß die Nutzung einschränken oder ausweiten können.

Je nach Anwendungsfall müssen einer KI unterschiedliche Informationen bereitgestellt werden.

Wenn wir ein Produkt zum Kauf freigeben, dann haben wir den Anspruch, dass dieses ohne Anpassungen einen Großteil der Anwendungsfälle abdeckt. Es soll leicht bedienbar, aber dennoch flexibel und mächtig sein. Ein solcher Feinschliff braucht Zeit: für Entwicklung, Testing, Qualitätssicherung und Dokumentation.