Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Die Gründer und Teammitglieder von NextSlide sollen künftig an ChatGPT arbeiten. Finanzielle Details der Übernahme wurden nicht veröffentlicht.
Der Browser läuft auf Cloudflare Workers und soll Webaufgaben mit deutlich weniger Speicher als Chromium ausführen. In der Beta fehlen jedoch wichtige Funktionen wie Videowiedergabe und dauerhafte Anmeldesitzungen.
In einem Vergleich von zehn KI Assistenten erreichte GPT-5.5 Thinking die höchste Gesamtpunktzahl. Claude Sonnet 4.6 sagte dafür die meisten Gruppenspiele korrekt voraus.
Interne Tests zeigen deutliche Fortschritte bei agentischem Programmieren und Cybersecurity-Aufgaben. OpenAI kann nicht ausschließen, dass Astra unter dem eigenen Preparedness Framework die Stufe „Critical“ erreicht.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.