Im Rahmen ihrer Diplomarbeit an der HTL Hollabrunn entwickelten die drei Schüler Florian Artlieb, Leon Binder und Christoph Handschuh in Kooperation mit der Firma Siemens einen Chatbot zur Beantwortung von technischen Produktfragen.
Die Dokumentation einzelner Produkte umfasst oft mehr als 2000 Seiten. Kunden, aber auch neue Mitarbeiter, haben oft Schwierigkeiten, sich in dieser zurechtzufinden. Häufig werden dem Kundensupport dieselben Fragen gestellt, was diesen zusätzlich beansprucht. SicBert bietet eine Anlaufstelle und somit Entlastung. Dem Kundensupport bleibt mehr Zeit für anspruchsvollere Anliegen.
Es wurde ein System in Python entwickelt, welches mithilfe von einem LLM (Large Language Model), Fragen zu Siemens-Produkten anhand der Datenblätter beantworten kann. Mittels einer Website können Nutzer mit dem Chat-Bot kommunizieren. Im Hintergrund werden in einer Datenbank Details gesammelt wie die Fragen, Antworten und Feedback der Anwender. Der Chatbot läuft auf einem Server, welcher von dem Kooperationspartner Siemens zur Verfügung gestellt wurde. Die Datenblätter werden in Teilabschnitte aufgeteilt und anschließend in einer Vektor-Datenbank als sogenannte Embeddings gespeichert. SicBert basiert auf einem RAG (Retrieval Augmented Generation) System, sodass beim Eingang einer Frage direkt die richtigen vektorisierten Embeddings aus der Vektor-Datenbank abgerufen werden. Diese werden dann an das LLM weitergegeben, um die Frage zu beantworten.
Die Relevanz und Qualität des Projekts spiegeln sich auch in den erzielten Erfolgen wider: Beim Bundeswettbewerb für Künstliche Intelligenz 2024 erreichte das Team den zweiten Platz. Weiters wird das System schon heute an den Siemens-Standorten Wien, Nürnberg und Kalkutta eingesetzt.
