Was für ein Weckruf mitten im KI-Hype.
IREBS-Standpunkt 154 von Viktor Weber, Geschäftsführer von Acquirepad, sollte man sich in der Immobilienbranche zu Gemüte führen. Sein Befund: Wer glaubt, ein Copilot- oder ChatGPT-Chat lese den Mietvertrags-Ordner einmal durch und liefere danach verlässliche Antworten, irrt. Dieselben Dokumente können in unterschiedlichen Chats zu unterschiedlichen Ergebnissen führen, ein Nachtrag landet beim falschen Vertrag, eine Zahl stimmt nicht, eine veraltete Regelung gilt plötzlich als aktuell.
Das liegt laut Weber selten am Sprachmodell selbst. Es liegt an unsauberen Datenbasen, fehlenden fachlichen Beziehungen zwischen Dokumenten und einem überfüllten Kontext. Und es liegt an einer Eigenschaft, die viele gern ausblenden: Halluzinationen sind bei Sprachmodellen mathematisch nachweisbar unvermeidbar, nicht restlos abstellbar.
Was mich an dem Text überzeugt: Weber fordert keinen Rückzug von KI, im Gegenteil. Seine Empfehlung ist nüchtern. Berechnungen wie Cashflows oder Mietpreisschätzungen gehören in deterministische Algorithmen, nicht ins Sprachmodell. Wissen über Objekte, Mieter und Verträge gehört in sauber modellierte Datenstrukturen. Das Sprachmodell soll verstehen und formulieren, nicht rechnen und entscheiden.
Eine unbequeme, aber wichtige Lektüre für alle, die gerade überlegen, wie viel sie einem KI-Chat wirklich zutrauen sollten.