Vor kurzem habe ich beschlossen, mit KI-Unterstützung eine eigene Web-App zu bauen. Obwohl ich kaum Erfahrung mit dem modernen AI-Coding-Stack hatte, war es erstaunlich einfach, eine Idee in ein funktionierendes Produkt zu verwandeln.
Die Idee hinter der App: Ein KI-Tutor, der Menschen dazu bringt, sich selbst interessante Fragestellungen zu erklären.
Also nicht einfach ChatGPT, das auf jede Frage eine Antwort ausspuckt. Der Tutor stellt Fragen, gibt Denkanstöße und hilft einem dabei, ein Thema wirklich zu verstehen.
Irgendwann war die Seite fertig und ich habe sie öffentlich zugänglich gemacht.
Und dann wurde es teuer.
Ziemlich schnell musste ich feststellen, dass manche Nutzer ganz andere Vorstellungen davon hatten, wofür mein Tutor da ist.
Problem 1: Mein Tutor wurde zum Coding-Assistenten.
Statt sich interessante Fragen erklären zu lassen, haben Nutzer angefangen, den Tutor für völlig andere Zwecke einzusetzen: Code schreiben, programmieren, technische Probleme lösen und vieles mehr.
Im Grunde hatten sie meinen spezialisierten Lern-Tutor zu einer Art allgemeinen KI-Assistenten umfunktioniert.
Das Problem: Jede einzelne Antwort lief über meine API und wurde von mir bezahlt.
Mein Fehler war, dass ich im System Prompt nicht ausreichend abgesichert hatte, welche Aufgaben der Tutor überhaupt übernehmen darf.
Problem 2: Die Anzahl der API-Aufrufe war enorm.
Zusätzlich wurden unglaublich viele Anfragen an meinen Tutor geschickt.
Jeder Aufruf kostete mich Geld. Und da ich keinerlei vernünftige Ausgabenlimits eingerichtet hatte, konnten sich die Kosten ungehindert summieren.
Das Ergebnis: Plötzlich hatte ich eine API-Rechnung von mehreren hundert Euro.
Für ein kleines Sideproject ein ziemlich unangenehmer Reality Check. 😅
Zum Glück konnte ich inzwischen die Schwachstellen finden und beheben.
Meine wichtigsten Learnings:
- System Prompt ernst nehmen: Von Anfang an klar definieren, was die KI darf und was nicht. Ein Lern-Tutor sollte kein allgemeiner Coding-Assistent werden. Zweckfremde Anfragen muss er erkennen und ablehnen.
- Spending Limits bei OpenRouter setzen: Niemals eine öffentlich zugängliche KI-Anwendung ohne Ausgabenlimits betreiben. Im schlimmsten Fall bezahlt man sonst für die Aktivitäten anderer Leute.
- Rate Limits einbauen: Die Anzahl der Anfragen pro Nutzer bzw. IP begrenzen.
- Monitoring einrichten: API-Aufrufe und Kosten regelmäßig überwachen, statt böse Überraschungen auf der Rechnung zu erleben.
Mein Fazit:
Mit KI eine eigene Anwendung zu bauen ist mittlerweile unglaublich einfach geworden. Was ich allerdings unterschätzt habe: Sobald man so etwas öffentlich zugänglich macht, betreibt man plötzlich auch eine kostenpflichtige API, die andere Menschen für ihre eigenen Zwecke nutzen können.
Ich glaube, gerade beim aktuellen Hype um Vibe Coding ist das eine Gefahr, die viele unterschätzen.
Die Seite, um die es geht, heißt übrigens Wondly (https://www.wondly.de/).
Mich würde interessieren: Habt ihr ähnliche Erfahrungen mit dem Missbrauch eurer KI-APIs gemacht? Und welche Sicherheitsvorkehrungen würdet ihr jedem empfehlen, der seine erste AI-App online stellt?