KI in Kürze: Ihr Überblick, über die wichtigsten KI-News (10.09.2025)

Warum halluzinieren KI-Chatbots

OpenAI hat vor ein paar Tagen eine Studie veröffentlicht, die untersucht, warum Sprachmodelle wie ChatGPT sogenannte „Halluzinationen“ erzeugen – also Antworten, die zwar plausibel klingen, aber faktisch falsch sind. Jeder ist auf so eine Antwort schon mal reingefallen...

Aber warum entstehen sie überhaupt?

Die Ursache liegt in den Trainings- und Bewertungsverfahren:

• Trainingsziel: Modelle werden darauf optimiert, die wahrscheinlichste nächste Wortfolge zu generieren, unabhängig davon, ob sie wahr ist.
• Bewertungssysteme: Aktuelle Benchmarks belohnen korrekte Antworten, bestrafen jedoch nicht das Raten. Ein Modell, das bei Unsicherheit „Ich weiß es nicht.“ sagt, erhält null Punkte, während ein geratenes, aber möglicherweise falsches Ergebnis besser abschneidet.

Viele KIs sind darauf ausgelegt, den Nutzer zufriedenzustellen und zu gefallen. Dieses System fördert Modelle, die lieber raten, als Unsicherheit zuzugeben.

OpenAI empfiehlt deshalb, die Bewertungsverfahren zu überarbeiten, um Modelle zu belohnen, die bei Unsicherheit keine Antwort geben. Dies würde die Entwicklung von Sprachmodellen fördern, die zuverlässiger und vertrauenswürdiger sind.

Quelle: OpenAI – Why language models hallucinate

DeepL erweitert KI-Portfolio – DeepL AI Lab

DeepL hat seine neuen AI Labs gelauncht und zeigt damit, wohin die Zukunft des Übersetzungsanbieters geht. Mit einem Team von über 100 Doktoranden und 300 Ingenieuren entwickelt das Unternehmen KI-Lösungen, weit über die klassischen Text-Tools hinaus – mit seinem Übersetzer ist DeepL groß geworden. Im Fokus der AI Labs stehen drei Bereiche: Language AI als Weiterentwicklung der bewährten Übersetzungs- und Schreibtools, Voice-Technologien und das neue Feld Agentic AI für autonome Arbeitsabläufe. 

Quelle: YouTube – DeepL

Der angekündigte DeepL Agent soll dabei als universeller KI-Assistent fungieren und Geschäftsaufgaben eigenständig erledigen. Angekündigt wurde der Agent für September, befindet sich aber gerade in der Testphase. Was macht DeepL Agent besonders? Vom Prinzip her funktioniert er wie alle anderen Agents auch, nur anders als Consumer-orientierte Tools fokussiert sich der DeepL Agent speziell auf Business-Anwendungen. Damit tritt das Kölner Unternehmen vor allem mit den großen AI-Playern in Konkurrenz, positioniert sich aber als eine datenschutzkonforme, sichere und europäische Alternative.

Quelle: DeepL – Welcome to DeepL AI Labs, Building a new kind of enterprise agent 

KI-Bots plündern das Web

Eine Cloudflare-Studie zeigt: KI-Systeme crawlen massenhaft Website-Inhalte zum Training, schicken aber kaum noch Besucher zurück.

Die Zahlen sprechen Bände:

• 80% aller KI-Bot-Aktivitäten dienen mittlerweile dem Training – Tendenz steigend.
• Gleichzeitig sind Google-Verweise auf News-Seiten seit Februar um 9% eingebrochen. Der Grund: AI Overviews beantworten Fragen direkt, ohne dass Nutzer noch klicken.

Welche KI crawlt am meisten? 

• Die Gewinner: OpenAI verdoppelte seinen Anteil auf 11,7 %, Anthropic stieg auf 10 %.
• Die Verlierer: ByteDance, also TikTok, stürzte von 14,1% auf nur 2,4% ab.

Für jeden Besucher, den z.B. Claude an eine Website schickt, crawlen die Bots bereits 38.000 Seiten. Bei Perplexity sind es 194 Crawls pro Verweis. Google dagegen kommt nur auf 5,4.

Aber was ist das Problem daran? Content-Ersteller füttern KI-Systeme kostenlos mit ihren Inhalten, bekommen aber immer weniger Traffic zurück. 

Quelle: Cloudflare – The crawl-to-click gap: Cloudflare data on AI bots, training, and referrals, Thema beigetragen von Philipp Becker, Senior Marketer @HubSpot 

Weitere Veränderungen in der Marketing-Welt durch KI, behandeln wir in unserem Video

Quelle: YouTube – HubSpot DACH 

Apple plant eigene KI-Suchmaschine

Vor ein paar Monaten stand in den Schlagzeilen, dass Apple Perplexity kaufen möchte. Das Gerücht ist inzwischen eingeschlafen. In den letzten Tagen kamen dann aber neue Gerüchte auf: Apple plant eine eigene KI-Suchmaschine.  Apple will in den Suchmarkt einsteigen; das ist nicht neu. Der Einstieg in den KI-Suchmarkt könnte aber wirklich was werden, denn es gibt viele neue Player in der Suchlandschaft und Apple ist in Sachen KI sparsam und hängt hinterher. Es muss sich also was tun.

Die neue Such-Technologie soll in Siri integriert werden und den Voice-Assistent in eine umfassende Antwort-Maschine verwandeln; die Technologie ist dabei ähnlich zu ChatGPT oder Perplexity. Die Benutzeroberfläche wird Text, Fotos, Videos und lokale Interessenspunkte integrieren, um Antworten dynamischer und nützlicher zu gestalten.

Apple will aber kein neues LLM dafür bauen, sondern auch hier wieder mit Google arbeiten. Google und Apple haben schon seit Jahren ein Abkommen: Google bezahlt nämlich bis zu 20 Milliarden Dollar pro Jahr, um die bevorzugte Suchmaschine auf dem iPhone zu sein. Eine formelle Vereinbarung wurde Berichten zufolge auch schon geschlossen: Apple wird ein von Google entwickeltes KI-Modell testen. Das baut auf die bestehende Partnerschaft auf.

Siri soll aber nicht die Einzige sein, die mit der Websuche ausgestattet wird. Apple diskutiert wohl auch die Integration in den Safari-Browser und in Spotlight, die iPhone- und Mac-Suchfunktion vom Homescreen. Der Start ist für Frühjahr 2026 geplant – ein Jahr später als ursprünglich vorgesehen, da Apple Zeit braucht, um die Technologie zu perfektionieren.

Quelle: Bloomberg – Apple Plans AI-Powered Web Search Tool for Siri to Rival OpenAI, Perplexity, Thema beigetragen von Jennifer Lapp, Head of Growth LATAM & DACH

OpenAI baut Job-Plattform

Welche Auswirkung hat KI auf unsere Jobs? Klar, es macht sie schneller und wir sparen Zeit. Aber viele Unternehmen bauen eben auch Stellen wegen KI ab. OpenAI hat seine Verantwortung erkannt und jetzt eine neue Strategie vorgestellt, wie Künstliche Intelligenz Chancen für eine breite Bevölkerung schaffen kann. Im Zentrum stehen zwei Initiativen: eine neue Jobplattform und ein Zertifizierungsprogramm.

1. OpenAI Jobs Platform

Die geplante Jobplattform soll Unternehmen dabei helfen, qualifizierte Fachkräfte mit KI-Kompetenzen zu finden. Dabei wird KI eingesetzt, um passende Kandidaten für spezifische Aufgaben zu identifizieren. Besonders kleine Unternehmen und lokale Verwaltungen sollen davon profitieren. Ein aktuelles Beispiel aus den USA ist die Texas Association of Business, die Tausende Arbeitgeber mit KI-affinen Talenten verbinden möchte.

2. OpenAI Zertifizierungen

Neben Jobanzeigen bietet OpenAI auch ein Zertifizierungsprogramm an. Über die OpenAI Academy können Nutzer kostenlos lernen und sich zertifizieren lassen – direkt in ChatGPT. Die Zertifikate decken verschiedene Kompetenzstufen ab, von grundlegender KI-Nutzung bis hin zu Prompt Engineering. Bis 2030 sollen 10 Millionen Amerikaner zertifiziert werden, unterstützt durch Partner wie der Supermarkt-Kette Walmart.

OpenAI möchte so nicht nur Zugang zu KI ermöglichen, sondern auch die Fähigkeiten vermitteln, diese effektiv zu nutzen. Durch Partnerschaften mit Unternehmen, Regierungen und Organisationen soll sichergestellt werden, dass möglichst viele Menschen von den wirtschaftlichen Vorteilen der KI profitieren können – so der Plan.

Quelle: OpenAI – Expanding economic opportunity with AI, Thema beigetragen von Philipp Becker, Senior Marketer @HubSpot