KI hier und KI da - derzeit werden alle möglichen Produkte mit diesen beiden Buchstaben versehen. Damit soll der Anschein erweckt werden, das Produkt sei modern ist erledige seine Aufgabe sehr viel effizienter als ohne KI. Aber stimmt das auch?
Generative KI wie ChatGPT ist ein Meilenstein, das steht ausser Frage. Direkte Antworten auf konkrete Fragen zu erhalten, statt das Internet durchforsten zu müssen, ist eine gewaltige Bereicherung. Allerdings stellt sich auch die Frage der Verlässlichkeit der Antworten. Generell gilt: Den Antworten kann man nur vertrauen, wenn man diese auch auf irgendeine Weise validieren kann (Quellenprüfung, Nachvollziehbarkeit mit Fachwissen usw.). Was die KI dann aber so ziemlich unbrauchbar macht für 90% der Anwendungen.
Ein gutes Video dazu: ccc: Entzaubert generative KI. Hier wird erklärt, dass generative KI also ChatGPT und co. die Antworten nicht aufgrund von Fakten ausgibt, sondern mit Statistik arbeitet. Das bedeutet, sie macht Fehler - und das wiederum bedeutet, es darf nur da eingesetzt werden, wo es auch eine gewisse Fehlertoleranz gibt.
Aktuelle Forschung zeigt, dass selbst die besten KI-Modelle nur etwa 35% der Zeit halluzinationsfreie Antworten liefern. Wie sich nun jeder denken kann, gibt es im Business- und Verwaltungsbereich nicht gerade sehr viele Fehlertoleranzen - der Kunde hat sicher wenig Verständnis für falsche Abrechnungen, genauso wenig wie ein Steuerzahler wenig Verständnis für eine falsche Steuerabrechnung hätte.
Das grösste Versprechen derzeit - und vor allem Nvidia-CEO Jensen Huang äusserte sich mehrfach, dass es in Zukunft niemand mehr programmieren muss. Durch generative KI werde "Programmiersprache menschliche Sprache". Nun sehen wir uns das mal an.
Die non-profit Forschungsgruppe METR hat in einer randomisierten kontrollierten Studie herausgefunden, dass erfahrene Softwareentwickler zwar glaubten, mit gen-KI ca. 20% schneller Software entwickeln zu können, in Wirklichkeit aber 19% langsamer waren.
Wäre es mit dieser Datenlage sinnvoll, wenn wir nicht mehr lernen würden, mit Programmiersprachen umzugehen? Natürlich macht der CEO des Unternehmens, welches am meisten von gen-KI profitiert, solche Aussagen. Für ihn muss in der öffentlichen Wahrnehmung gen-KI die eierlegende Wollmichsau bleiben, schliesslich werden seine Grafikkarten bei gen-KI benötigt. Für alle anderen sollte inzwischen klar sein: Es ist ein Tool, was helfen kann, aber keine Fachleute 1:1 ersetzt.
Gen-KI ist ein Hammer - damit lässt sich ziemlich gut hämmern. Für Nägel ist es ein super Tool. Ich selbst benutze es täglich, um mir erste Ideen geben zu lassen, z.B. durchsuche ich damit das Internet mit Perplexity und erhalte Antworten auf meine Fragen, anstatt verschiedene Foren durchforsten zu müssen.
Aber - und das ist ein gewaltiges Aber - ich muss das, was es ausspuckt, validieren können. Die Quellen müssen geprüft werden und die Antworten müssen nachvollziehbar sein. Wenn ich mich einfach darauf verlasse, akzeptiere ich eine grosse Fehlerquote und übernehme vielleicht grundsätzlich falsche Aussagen. Dies ist in vielen Bereichen einfach nicht akzeptabel.
Wir können gen-KI nicht pauschal auf alle unsere Probleme anwenden. Es macht auch keinen Sinn, es in alle Produkte zu integrieren. Jedes Problem bedarf einer eigenständigen Lösung.
