Die Prüfer sollen Modelle schon während des Trainings verfolgen und dafür direkt mit den Mitarbeitern von Anthropic sprechen können.

Erst kostenlos reinschnuppern, dann entscheiden

Bevor du dich für eine Weiterbildung entscheidest, sieh dir kostenlos an, wie sie läuft, fünf Lektionen plus Live-Demo, ohne Verpflichtung. Passt es, ist der Digitalisierungsmanager bei bewilligtem Bildungsgutschein für dich kostenlos.

Kostenlos reinschnuppern

Der Schnupperkurs ist gratis. Ob die Weiterbildung über den Bildungsgutschein gefördert wird, entscheidet die Agentur für Arbeit im Einzelfall.

Prüfer mit Mitarbeiterzugang

So beschreibt Anthropic in seiner Mitteilung vom 18. September 2026 die Rolle, die Accenture übernehmen soll. Das Unternehmen nennt die Zusammenarbeit einen wichtigen Schritt zu einer Zusage aus dem Essay „We Must Pace the Frontier“, in dem Anthropic-Chef Dario Amodei zugesagt hatte, Prüfer in das Unternehmen einzubetten. Laut CNBC sind die eingebetteten Prüfer der erste Schritt aus Amodeis Drei-Stufen-Plan. Veröffentlicht hat Amodei den Essay laut Berichten am Samstag, dem 12. September 2026; worum es darin geht, steht in unserem Beitrag über Amodeis Vorschlag für externe Prüfer.

Die Leitung liegt bei Faculty, dem KI-Fachbereich von Accenture. Die Aufgaben benennt Anthropic mit Fachbegriffen: Modelle prüfen und gezielt angreifen („red-teaming“), die Ausrichtung der Modelle bewerten („alignment assessments“) und Schutzvorkehrungen testen. Eingebettet heißt, dass die Prüfer im Unternehmen arbeiten, mit einem Zugang, der nach Anthropics Angaben dem eines Mitarbeiters vergleichbar ist. Entscheidungen über Bau und Einsatz der Modelle sollen sie nachvollziehen können. Auch die Frage, ob Anthropic seine eigenen Sicherheitszusagen einhält, gehört zu ihrem Auftrag, ebenso das Aufspüren blinder Flecken und das Melden von Vorfällen. Am Ende soll die Öffentlichkeit ein fundierteres Bild von Nutzen und Risiken der Modelle bekommen. So jedenfalls stellt Anthropic die Rolle dar.

Accenture spricht in seiner eigenen Pressemitteilung von einem Team eingebetteter Prüfer, das neben Anthropics internen Teams und Sicherheitspartnern arbeiten soll. Als Grundlage nennt Accenture die Übernahme von Faculty, die laut TechCrunch im Januar stattfand. Faculty hat laut Mitteilung Erfahrung mit Tests und Bewertungen von Modellen für führende KI-Labore und arbeitet für Regierung, Verteidigung, Gesundheitswesen und Infrastruktur.

Sicherheit brauche technisches Fachwissen und ein klares Verständnis dafür, wie KI in der Praxis eingesetzt wird, sagt Accenture-Chefin Julie Sweet sinngemäß; eingebettete Prüfung sei ein neues Feld. Marc Warner, Technikchef von Accenture und Chef von Faculty, beschreibt Faculty sinngemäß als gegründet auf der Überzeugung, dass KI von Anfang an sicher gebaut sein sollte.

Was hinter der Milliarde steht

Die größte Zahl der Ankündigung ist zugleich die, die sich am leichtesten missverstehen lässt. Anthropic und Accenture erwarten jeweils, in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar in den Aufbau von Kapazitäten auf diesem Gebiet zu investieren. Die Summe ist also eine Erwartung beider Seiten, verteilt über fünf Jahre und bezogen auf das Gebiet als Ganzes. Welcher Anteil davon in die Zusammenarbeit der beiden Firmen fließt, sagen die Mitteilungen nicht, und einen Vertragswert nennt keine von beiden.

Exklusiv ist die Partnerschaft laut Anthropic nicht. Weitere Prüfer will Anthropic in den kommenden Wochen bekanntgeben, und Accenture will ähnlich auch für andere KI-Entwickler arbeiten. Mit METR und anderen gemeinnützigen Prüfern spricht Anthropic nach eigenen Angaben über Pilotprojekte, die diese Organisationen selbst finanzieren.

Unabhängig, aber von Anthropic bezahlt

Hier liegt der heikelste Punkt der Ankündigung. Anthropic nennt die Prüfer unabhängig und bezahlt die Arbeit von Accenture zugleich direkt. Das Unternehmen spricht diesen Umstand selbst an und begründet ihn mit Bedeutung und Dringlichkeit der Aufgabe. Ein etabliertes System zur Finanzierung unabhängiger Prüfung gibt es laut Anthropic noch nicht, langfristig sollte das Geld aus gemeinsamen oder staatlichen Quellen kommen. Ebenso fehlen nach Anthropics Angaben Standards dafür, welche Informationen eingebettete Prüfer bekommen und wie sie berichten. Viele Einzelheiten der eingebetteten Prüfung seien noch offen. Ob und wie Ergebnisse der Prüfer öffentlich werden, ist damit ebenfalls ungeklärt.

Nach Anthropics Darstellung machen unabhängige eingebettete Prüfer die eigene Verantwortung besser überprüfbar, ohne sie zu verringern. Die Sicherheit der Modelle bleibe Anthropics Verantwortung.

Die Wahl von Accenture hat laut TechCrunch viele Beobachter überrascht. Die Debatte über eingebettete Prüfer hatte sich bis dahin um KI-Sicherheitsorganisationen wie METR, Redwood Research und Apollo Research gedreht. Anthropic verweist laut TechCrunch auf Accentures praktische Erfahrung beim Einsatz von KI in großen Unternehmen und Behörden. Als großes Unternehmen, das älter ist als der KI-Boom, sei Accenture laut TechCrunch funktional unabhängiger von Anthropic und dessen Umfeld.

Grundsätzlicher ist die Kritik, die TechCrunch ebenfalls wiedergibt. Kritiker sehen in Amodeis Plan einer Selbstkontrolle der Branche einen Weg, sich der Verantwortung für das Fehlverhalten von Modellen zu entziehen.

Unsere Einschätzung

Kaum ein kleiner Betrieb kauft direkt bei Anthropic ein. Viele arbeiten aber mit Werkzeugen, die auf solchen Modellen aufbauen, und für sie zählt aus unserer Sicht weniger die Milliardensumme als das, was am Ende aus der Prüfung herauskommt: Berichte und Vorfallsmeldungen, die jemand außerhalb des Unternehmens lesen kann.

Genau das ist bisher ungeregelt. Solange niemand festgelegt hat, wie eingebettete Prüfer berichten, bleibt offen, was davon je bei Kunden ankommt. Eine Prüfung, deren Ergebnis niemand zu sehen bekommt, hilft dem Kunden wenig. Wir würden deshalb bei der Auswahl eines KI-Anbieters, auch eines Werkzeugs, das auf einem fremden Modell aufbaut, schon jetzt nachfragen, welche externen Prüfungen es gibt und was davon veröffentlicht wird. Eine schriftliche Antwort darauf sagt über einen Anbieter mehr als jede Werbeseite.

Dass Anthropic die Bezahlung offen anspricht, werten wir als Punkt für die Transparenz. Ob die Prüfer im Ernstfall unbequem werden, zeigt sich erst an ihren ersten Berichten.

Quellen

Die genannten Angaben stützen sich auf folgende öffentlich zugängliche Quellen (Stand der Recherche: 21. September 2026):

Häufige Fragen

Was sollen die eingebetteten Prüfer von Accenture bei Anthropic tun?

Laut Anthropic arbeiten die Prüfer im Unternehmen, mit einem Zugang, der dem eines Mitarbeiters vergleichbar ist. Unter der Leitung von Faculty, dem KI-Fachbereich von Accenture, sollen sie Modelle prüfen und angreifen, die Ausrichtung der Modelle bewerten und Schutzvorkehrungen testen. Nach Anthropics Darstellung können sie außerdem prüfen, ob das Unternehmen seine Sicherheitszusagen einhält, und Vorfälle melden.

Fließen je 1 Milliarde US-Dollar in diese Partnerschaft?

Das geht aus den Mitteilungen nicht hervor. Anthropic und Accenture erwarten jeweils, in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar in den Aufbau von Kapazitäten auf diesem Gebiet zu investieren. Es handelt sich um eine Erwartung für das Gebiet insgesamt, einen Vertragswert oder den Anteil für die gemeinsame Zusammenarbeit nennen beide Firmen nicht.

Wie passt die Unabhängigkeit der Prüfer dazu, dass Anthropic sie bezahlt?

Anthropic nennt die Prüfer unabhängig und bezahlt die Arbeit von Accenture zugleich direkt. Das Unternehmen begründet das mit Bedeutung und Dringlichkeit und damit, dass es noch kein etabliertes System zur Finanzierung unabhängiger Prüfung gibt; langfristig sollte das Geld aus gemeinsamen oder staatlichen Quellen kommen. Laut TechCrunch sehen Kritiker in Amodeis Plan einer Selbstkontrolle der Branche einen Weg, sich der Verantwortung für das Fehlverhalten von Modellen zu entziehen.

Muss ein Betrieb, der KI-Werkzeuge nutzt, wegen dieser Nachricht jetzt handeln?

Sofortiger Handlungsbedarf ergibt sich aus der Ankündigung nicht. Aus unserer Sicht lohnt es aber, bei der Auswahl eines KI-Anbieters oder eines darauf aufbauenden Werkzeugs nachzufragen, welche externen Prüfungen es gibt und was davon veröffentlicht wird. Weil es laut Anthropic noch keine Standards dafür gibt, wie eingebettete Prüfer berichten, ist offen, welche Ergebnisse je bei Kunden ankommen.

Wer im Betrieb weiß, welche externen Prüfungen hinter den eingesetzten KI-Werkzeugen stehen?

Im kostenlosen KI-Schnupperkurs zeigen wir in fünf Lektionen, wie kleine und mittlere Firmen KI im Alltag einsetzen. Tiefer und praxisnah geht es im Vollkurs Digitalisierungsmanager, DEKRA-zertifiziert und förderfähig über den Bildungsgutschein.

Zuletzt aktualisiert: 21. September 2026. Stand der Recherche: 21. September 2026.