Anzeige
Skip to content
Read full article about: Schutz vor Jailbreaks und Datenlecks: OpenAI übernimmt Sicherheitsplattform Promptfoo für Frontier

OpenAI übernimmt Promptfoo, eine Sicherheitsplattform für KI-Systeme. Promptfoo hilft Unternehmen, Schwachstellen in KI-Anwendungen während der Entwicklung zu finden und zu beheben. Die Technik soll nach Abschluss der Übernahme direkt in OpenAIs Unternehmensplattform Frontier eingebaut werden, mit der Firmen KI-Assistenten erstellen und betreiben können.

Konkret sollen automatisierte Sicherheitstests gegen Angriffe wie Prompt Injections, Jailbreaks und Datenlecks fester Bestandteil von Frontier werden. Zudem will OpenAI damit Kontrolle, Nachvollziehbarkeit und die Einhaltung von Vorschriften für KI-Systeme in Unternehmen stärken.

Promptfoo bietet auch ein viel genutztes Open-Source-Projekt, das weitergeführt werden soll. Die Übernahme ist noch nicht abgeschlossen, Details zu den finanziellen Bedingungen sind nicht bekannt. Das Start-up hatte insgesamt 23 Millionen US-Dollar von Investoren eingesammelt bei einer Bewertung von 86 Millionen US-Dollar im Sommer 2025.

Read full article about: Microsoft integriert Anthropics Claude-Cowork-Technologie in Copilot für eigenständigere Büroarbeit

Microsoft hat Anthropics Claude-Cowork-Technologie in Copilot integriert. Das neue Feature namens "Copilot Cowork" soll Aufgaben in Microsoft 365 eigenständiger ausführen. Nutzer beschreiben ein gewünschtes Ergebnis, und Cowork erstellt daraus einen Plan, der im Hintergrund abläuft. Dabei greift es auf E-Mails, Meetings, Dateien und Daten aus Outlook, Teams und Excel zu. Beispiele sind Kalenderbereinigung, Meeting-Vorbereitung, Unternehmensrecherche und Produktlaunch-Planung. Bei Unklarheiten fragt Cowork nach und wartet auf Freigabe, bevor Änderungen umgesetzt werden.

Cowork läuft innerhalb der Sicherheits- und Compliance-Grenzen von Microsoft 365. Die Funktion befindet sich derzeit in einer eingeschränkten Research Preview und soll Ende März 2026 breiter im Frontier-Programm verfügbar sein.

Bemerkenswert ist die zunehmende Öffnung Microsofts gegenüber anderen KI-Anbietern neben OpenAI: Claude Cowork basiert auf den Prinzipien von Anthropics Claude Code, das im Programmierumfeld große Erfolge feiert. OpenAI bietet bislang keine vergleichbare Software, arbeitet allerdings mit Frontier ebenfalls an einem agentischen B2B-Framework, das auf bessere Integration in Unternehmens-IT abzielt.

Read full article about: Keine KI für autonome Waffen und Massenüberwachung: Anthropic zieht gegen US-Regierung vor Gericht

Der KI-Entwickler Anthropic hat vor einem Bundesgericht in San Francisco Klage gegen 17 US-Bundesbehörden und das Exekutivbüro des Präsidenten eingereicht. Das Unternehmen wirft der Regierung vor, es rechtswidrig dafür bestraft zu haben, dass es an zwei Nutzungsbeschränkungen für sein KI-Modell Claude festhielt: keine letale autonome Kriegsführung und keine Massenüberwachung von US-Bürgern.

Das Kriegsministerium drohte Anthropic laut Klageschrift gleichzeitig mit zwei sich widersprechenden Maßnahmen: Entweder werde man den Defense Production Act nutzen, um Anthropic zur Bereitstellung von Claude zu zwingen, oder man werde das Unternehmen als Sicherheitsrisiko aus der Lieferkette verbannen. Ein Unternehmen könne aber kaum gleichzeitig so unverzichtbar sein, dass es per Gesetz zur Kooperation gezwungen werden muss, und so gefährlich, dass es komplett ausgeschlossen werden soll, argumentiert Anthropic.

Juristisch stützt sich die Klage unter anderem darauf, dass das verwendete Gesetz 10 U.S.C. § 3252 nur für Fälle gedacht sei, in denen ein ausländischer Gegner ein Informationssystem sabotieren oder unterwandern könnte. Die Exekutive selbst definiere solche Gegner als China, Russland, Iran, Nordkorea, Kuba und Venezuela.

Anzeige
Read full article about: Millionen Menschen nutzen KI-Chatbots bereits als Finanzberater

Millionen Menschen nutzen bereits Chatbots wie ChatGPT für ihre Rentenplanung, berichtet die Financial Times. Laut einer Lloyds-Bank-Umfrage verwendet mehr als die Hälfte der befragten Briten KI für Finanzfragen. Experten weisen aber auf klare Grenzen hin, so auch die britische Finanzaufsicht FCA, die erst kürzlich vor Halluzinationen warnte.

Ein Test von Which? zeigte beispielsweise im November, dass gängige Chatbots wie ChatGPT, Gemini, Perplexity oder Meta AI Gesamtbewertungen von nur 55 bis 71 Prozent erzielten. Trotzdem ist der Druck auf die Finanzindustrie groß: Rentenanbieter wie Scottish Widows entwickeln mittlerweile eigene KI-Tools.

"Ich denke, das ist die große Gefahr von KI: dass die Leute annehmen werden, sie wüssten, was sie nicht wissen", warnt dagegen JPMorgan-Stratege John Bilton. Wenn Nutzer KI als Investment-Tool statt als reines Datenwerkzeug verwenden, riskieren sie laut Bilton, "zugrundeliegende Verhaltensverzerrungen – wie die Tendenz, zu viel Bargeld zu halten oder zu oft zu handeln – stärker zu machen".

Ein Gegenbeispiel ist ein 41-jährige Software-Ingenieur, der sein gesamtes 200.000-Dollar-Portfolio von ChatGPT umstrukturieren ließ. ChatGPT riet ihm, seine Risiken breiter zu streuen: 80 Prozent in einen Marktindex-Tracker und den Rest in einen Anleihen-ETF. Er betonte laut der Financial Times, dass das Gespräch mit dem Chatbot ihm vor allem auch half, "sich zu verpflichten und [den Plan] tatsächlich auszuführen".

Read full article about: Neues Omnimodell: OpenAI-Mitarbeiter deuten auf nächste KI-Generation hin

OpenAI scheint an einem neuen multimodalen Modell zu arbeiten, potenziell ein Nachfolger von GPT-4o. Darauf weisen Posts von OpenAI-Mitarbeitern hin. Atty Eleti aus dem Voice-Team schrieb, er sei "gespannt auf das, was als Nächstes kommt" und fragte Nutzer, was sie sich von einem neuen Omnimodell wünschen. Brandon McKinzie, Forscher bei OpenAI mit Multimodal-Hintergrund bei Apple, kommentierte ein potenzielles Omni-Model mit "klingt nach einer großartigen Idee".

via X

Multimodal bedeutet, dass ein Modell verschiedene Formate wie Text, Bild, Audio und Video in einem einzigen Modell verarbeitet, statt für jede Aufgabe ein eigenes zu benötigen. GPT-4o ("omni") kombinierte zum ersten Mal Text-, Bild- und Audioverarbeitung bei OpenAI. Das letzte Modell von OpenAI, GPT-5.4, integrierte bereits "Computer Use" nativ, also die Fähigkeit, für Menschen gemachte Computer-Interfaces zu bedienen.

Parallel arbeitet OpenAI laut The Information an einem neuen Audio-Modell namens "BiDi" (bidirektional), das Gespräche natürlicher machen soll. Heutige Sprachmodelle arbeiten rundenbasiert: Die KI wartet, bis der Nutzer fertig gesprochen hat. BiDi soll Unterbrechungen in Echtzeit verarbeiten. Ein Prototyp existiert, neigt aber nach wenigen Minuten zu Fehlern. Der Start könnte sich auf das zweite Quartal oder später verschieben.

Anzeige

WSJ-Bericht liefert neue Details zum KI-Einsatz im Krieg gegen den Iran

Das Wall Street Journal bestätigt und erweitert bisherige Berichte über den massiven Einsatz generativer KI im US-Militäreinsatz gegen den Iran. Neue Details zeigen, wie tief KI bereits in Aufklärung, Zielauswahl und Logistik verankert ist.

Anthropic-Modell Claude Opus 4.6 durchschaut KI-Test, hackt Verschlüsselung und besorgt sich die Lösungen selbst

Anthropics KI-Modell Claude Opus 4.6 hat während eines Benchmarks eigenständig erkannt, dass es getestet wird, den konkreten Test identifiziert und dessen verschlüsselten Lösungsschlüssel geknackt. Laut Anthropic ist das der erste dokumentierte Fall dieser Art.

Anzeige