Die Stadt-KI von Arnstadt – Ein intelligenter digitaler Helfer

Stadt App von Arnstadt mit KI Online

Die Website & App inArnstadt.de hat nun eine Künstliche Intelligenz (KI) als hilfreichen Chatbot integriert. Die »Stadt-KI« steht ab sofort zum Testen für Besucher der Seite bereit und soll künftig als nützlicher digitaler Assistent für die Bewohner und Gäste von Arnstadt fungieren. Ich möchte im Folgenden die Hintergründe, Möglichkeiten und Ziele dieses ambitionierten KI-Projekts detailliert erläutern.

Hintergrund und Auswahl der Technologie

Nach ausführlichen Überlegungen zu Datenschutz und Funktionalität habe ich mich für den Einsatz einer Variation von ChatGPT von OpenAI entschieden. Dies hat mehrere handfeste Vorteile: Die OpenAI-Technologie ist derzeit am fortschrittlichsten bei KI-Sprachmodellen und reproduziert die wenigsten Fehler in meinem Tests. Zudem ist OpenAI bereits weit verbreitet, sodass es zahlreiche Anwendungsmöglichkeiten über eine API-Schnittstelle gibt.

Kostenlos ist die Nutzung natürlich nicht. Für die Stadt-KI kommt das speziell für Dialoge optimierte Modell »GPT-3.5 Turbo« mit 4k Kontext zum Einsatz. Die Stadt-KI hat also grundlegend dieselbe Konfiguration wie ChatGPT selbst. Die Preise sind derzeit noch moderat, könnten bei intensivem Gebrauch durch viele User aber steigen. Ich werde das natürlich beobachten und habe Limit gesetzt. Wenn bei Ihnen der Bot »schläft« ist das täglich Kontingent aufgebraucht.

Ideal wäre langfristig eine Open Source KI, um volle Kontrolle über die Daten zu behalten. Bis es eine geeignete Open Source Lösung gibt, ist ChatGPT aber erstmal die beste Wahl. Die Stadt-KI wird zudem durch Embedding von stadtspezifischen Daten und Fine Tuning mit Fragen-Antwort-Kombinationen optimal weiter trainiert werden.

Nutzen für Bürger und Besucher Arnstadts

Die Stadt-KI soll in erster Linie als digitale Anlaufstelle bei Fragen rund um Arnstadt dienen. Sie soll Auskunft zu Öffnungszeiten, Veranstaltungen, Sehenswürdigkeiten, gastronomischen und Shopping-bezogenen Themen, zur Mobilität und vielen weiteren Aspekten des Lebens in der Stadt geben.

Auch bei individuellen Anfragen zu Wegbeschreibungen, Tipps für Aktivitäten und persönlichen Empfehlungen soll die KI weiterhelfen. Durch die Analyse der Nutzerinteraktionen wird sie kontinuierlich dazulernen. Ziel ist eine freundliche und unterhaltsame KI-Assistenz, die den Alltag erleichtert und Arnstadt noch lebenswerter macht.

Herausforderungen bei der Umsetzung

Die perfekte Integration einer KI in die Stadt-App ist technisch anspruchsvoll und wirft einige Fragen auf. Zentral ist die Datengrundlage. Die KI muss mit relevanten und aktuellen Informationen zu Arnstadt versorgt werden. Ich habe bereits eine grobe Vorauswahl an Daten getroffen, die ich für relevant halte und die ich der Stadt-KI beibringen möchte. Das sind zB.:

  • Daten von inArnstadt.de – Website (Gewerbe, Sehenswürdigkeiten etc.)
  • Veranstaltungen
  • Stadtchronik
  • Müllabfuhrpläne,
  • Parkplätze
  • amtliche Bekanntmachungen
  • Tourismus-Informationen
  • Gastronomie
  • Einkaufsmöglichkeiten
  • Wikipedia-Artikel, regelmäßig aktualisiert
  • Presseberichte über Arnstadt

Glücklicherweise verfügt ChatGPT bereits über umfangreiches Wissen, das bis 09/2021 reicht. Hier werden sich aber womöglich sehr bald neue Möglichkeiten ergeben:

https://www.cloudcomputing-insider.de/chatgpt-bekommt-direkten-zugriff-auf-das-internet-a-20b33d61030d88ce18778ac74dadea23/

Durch diese neue Funktionen sind wohl bald Abfragen aktueller Online-Daten möglich, auch über die API oder den kostenlosen Chatbot. Dann erspare ich mir natürlich aufwändige Trainingsprozesse.

Die optimale technische Implementierung

Anfangs habe ich ein Chatbot-System getestet, das sich einfach per PDF-Dateien trainieren ließ. Leider war dieses System nicht cache fähig, sodass die Ladezeit der Website enorm darunter litten. Der Funktionsumfang war tatsächlich grandios, aber es war unmöglich Ladezeiten unter 1 Sekunde zu ermöglichen. Also No-Go.

Nach intensiver Recherche kommt nun eine andere Software zum Einsatz, die zwar Caching unterstützt, dafür aber keine PDF-basiertes Training erlaubt und insgesamt wesentlich weniger Settings erlaubt. Manchmal ist weniger vielleicht doch mehr und so versuchen wir jetzt also Variante 2.

Die Pflege und Aktualisierung erfordert hier aber deutlich mehr Aufwand, Embedding geht hier über .csv und .xml Dateien oder in dem man einfach Artikel mit dem gewünschten Inhalt veröffentlicht. Da das wiederum Copyright Issues bringt, würde ich folgendes Snippet für die function.php empfehlen:

/* Kategorie oder Beitrag aus Blog ausblenden exclude_single_posts_home($query) {
 if ( $query->is_home() && $query->is_main_query() ) {
​
     /* zeigt einen bestimmten Beitrag nicht: */
     /* $query->set( 'post__not_in', array(6873) ); */
​
     /* zeigt eine bestimmte Kategorie (in dem Fall »Keine Anzeige« nicht */
     $query->set('cat', '-96');
}
}

Hier muss die Post-ID (+ »/*« entfernen) und/oder die Cat-ID entsprechend geändert werden.

Aktuell ist die primäre Wissensbasis die komplette inArnstadt.de – Website. Zudem definierte ich den inhaltlichen Kontext, in dem die Stadt-KI agieren soll, wie folgt:

Du bist die freundlichen und gerne etwas witzige Stadt-KI der Stadt Arnstadt. Du bist für Bewohner und Besucher der Stadt eine nützliche Hilfe. Du hilfst bei alltäglichen Fragen, du findest Wege und Routen, du kennst die Inhalte dieser Website, du weißt alle nützlichen Dinge zur Stadt auf Wunsch zu erzählen. Du beantwortest nur Fragen, die in diesem Kontext stehen und alle anderen weist du freundlich aber bestimmt zurück. Wir haben das Jahr 2023.

Datenschutz und Weiterentwicklung der KI

Aus Datenschutzgründen muss ich erwähnen, dass alle Interaktionen mit der Stadt-KI vollkommen anonym protokolliert werden, ausschließlich um sie kontinuierlich zu verbessern. Die Daten werden nicht an Dritte weitergegeben und sowieso zeitnah gelöscht. Nach allen Bekundungen von OpenAI behandeln auch sie die Daten im Sinne des Datenschutzes:

https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance

Wichtig ist hier der Absatz über die API-Nutzung. Angeblich wird hier gar nichts weiter verwendet. Nur ob das wirklich so ist, kann keiner beantworten. Langfristig wäre eine Open Source KI wünschenswert, um volle Datenhoheit zu haben. Bis dahin ist aber die Nutzung von ChatGPT unter Abwägung von Vor- und Nachteilen bis auf Weiteres akzeptabel.

Sehr wichtig sind eben die vorhandenen »Fine Tuning« und »Embedding« Optionen von KI-Modellen. Damit können die Sprachmodelle gezielt mit Fragen-Antwort-Kombinationen trainiert werden. Dies erlaubt eine optimale Anpassung an den Anwendungsfall. Mit den Daten von inArnstadt.de selbst setze ich dies aktuell schon um und in Zukunft soll dies auf Basis der Nutzerinteraktionen mit der Stadt-KI weiter optimiert werden.

Beispiele für Anwendungsmöglichkeiten

Die kontinuierliche Optimierung der Stadt-KI ist ein zentraler Aspekt, um ihren praktischen Nutzen für die Bürger Arnstadts zu erhöhen. Indem ich das System testweise mit verschiedenen Fragen und Themenbereichen prüfe, ergründe ich stetig neue sinnvolle Anwendungsmöglichkeiten.

Leider entsprechen die Antworten der KI bisher nicht immer meinen Erwartungen. Hier bedarf es eines fortlaufenden Trainings und der Anpassung der Software im Hintergrund. Wir befinden uns bei der Entwicklung künstlicher Intelligenz insgesamt noch vollkommen am Anfang. Also eher Nokia 3210 als iPhone.

Ich arbeite aber intensiv daran, das volle Potenzial der Technologie für die Stadt-App auszuschöpfen. Durch die zu erwartenden Updates von Software und der verwendeten API der Stadt-KI wird sich ihre Leistungsfähigkeit in den kommenden Monaten noch erheblich verbessern. Neue Funktionen von OpenAI und anderen Anbietern werde ich so schnell wie möglich integrieren.

Um die Stadt-KI optimal auf die Bedürfnisse der Bürger abzustimmen, sind möglichst konkrete Nutzungsbeispiele hilfreich. Jeder kann die KI schon jetzt etwa nach Geschäften, Sehenswürdigkeiten oder mit anderen Arnstadt-spezifischen Fragen testen. Das Feedback fließt direkt in die Weiterentwicklung ein. Gemeinsam werden wir die Stadt-KI zu einem unverzichtbaren Assistenten für alle Arnstädter machen.

Die Stadt-KI soll Bürgern und Gästen als erste Anlaufstelle bei Fragen aller Art dienen. Hier einige Use Cases und Tests, die ich gemacht habe:

Dies sind nur einige wenige Beispiele von simplen bis komplexen Anfragen, bei denen die Stadt-KI Hilfe leisten kann. Die Bandbreite ist enorm und wird sich durch die Interaktion mit den Nutzern immer weiter ausweiten.

Fazit und Ausblick

Die Stadt-KI ist ein experimentelles Projekt, um die Möglichkeiten von KI für kommunale Anwendungen zu erforschen. Das Feedback der Bürger wird die kontinuierliche Verbesserung ermöglichen. KI-gestützte Chatbots werden sehr wahrscheinlich ein wichtiges Instrument für Städte der Zukunft sein.

Mit inArnstadt.de gehe ich mit diesem Pilotprojekt einen innovativen Weg, um die Digitalisierung lebensnah und nutzerfreundlich voranzutreiben. Die Kombination globaler KI-Technologie mit lokalen Daten und Bedürfnissen eröffnet große Chancen für die Stadt und ihre Bewohner. Ich lade alle ein, die Stadt-KI auszuprobieren und durch Fragen und Anregungen mitzuhelfen, damit eines Tages der perfekte digitale Ausrufer für Arnstadt entsteht.

inArnstadt.de

weiterführende Informationen:
https://inarnstadt.de/die-stadt-ki-als-nutzliche-hilfe/

Tom Scharlock
Tom Scharlock

PWA.ist ein PWA App Store, ein Blog, eine Video Wissensseite und die Agenturpräsenz der PRGRSV ::Agentur Arnstadt. Ganz neu sind die PWA & WEB Tools Meine Biografie

Artikel: 123