Künstliche Intelligenz: Google kündigt neues Framework für KI-Entwickler an – mit sechs wichtigen Grundsätzen

 

Bei Google spielt die Künstliche Intelligenz schon seit vielen Jahren eine große Rolle und wird auch in naher sowie ferner Zukunft immer deutlicher tun. Jetzt geht man nicht nur mit den eigenen Produkten in die Offensive, sondern hat ein neues Framework rund um die Künstliche Intelligenz angekündigt, das sich vor allem auf Sicherheit in jeglicher Form konzentriert: Das Secure AI Framework.

Die Künstliche Intelligenz ist sicherlich kein „Neuland“, doch durch die deutlich sichtbaren großen Fortschritte und auch der breiten Zugänglichkeit gibt es nicht umsonst an vielen Stellen Diskussionen zur Regulierung und Sicherheit der KI. Jetzt hat Google ein neues Framework geschaffen, mit dem man die KI-Entwicklung ein wenig lenken und in puncto Sicherheit stärken will. Man hat den Start des Secure AI Framework angekündigt, das sich derzeit noch in der Konzeptphase befindet.

Mit dem Framework verfolgt man das Ziel, die KI-Entwicklung für alle Beteiligten zu erleichtern und mit einigen Schwerpunkten dafür zu sorgen, dass die Sicherheit in jeglichen Belangen im Vordergrund steht. Dabei setzt man auf sechs Kernelemente, die ich an dieser Stelle einfach einmal automatisch übersetzt einbinde. Am Ende des Artikels findet ihr eine Infografik mit einer Zusammenfassung in Original-englischer Sprache.

1. Erweitern Sie starke Sicherheitsgrundlagen für das KI-Ökosystem

Dazu gehört die Nutzung standardmäßig sicherer Infrastrukturschutzmaßnahmen und des in den letzten zwei Jahrzehnten aufgebauten Fachwissens zum Schutz von KI-Systemen, -Anwendungen und -Benutzern. Entwickeln Sie gleichzeitig organisatorisches Fachwissen, um mit den Fortschritten in der KI Schritt zu halten und beginnen Sie mit der Skalierung und Anpassung des Infrastrukturschutzes im Kontext von KI und sich entwickelnden Bedrohungsmodellen. Injektionstechniken wie die SQL-Injection gibt es beispielsweise schon seit einiger Zeit, und Unternehmen können Abhilfemaßnahmen wie Eingabebereinigung und -beschränkung anpassen, um sich besser gegen Angriffe im Prompt-Injection-Stil zu schützen .

2. Erweitern Sie Erkennung und Reaktion, um KI in das Bedrohungsuniversum eines Unternehmens zu integrieren

Aktualität ist bei der Erkennung und Reaktion auf KI-bezogene Cybervorfälle von entscheidender Bedeutung, und die Ausweitung von Bedrohungsinformationen und anderen Fähigkeiten auf ein Unternehmen verbessert beides. Für Unternehmen umfasst dies die Überwachung der Ein- und Ausgänge generativer KI-Systeme zur Erkennung von Anomalien und die Nutzung von Bedrohungsinformationen zur Antizipation von Angriffen. Diese Bemühungen erfordern in der Regel die Zusammenarbeit mit Teams für Vertrauen und Sicherheit, Bedrohungsaufklärung und Missbrauchsbekämpfung.

3. Automatisieren Sie die Abwehrmaßnahmen, um mit bestehenden und neuen Bedrohungen Schritt zu halten

Die neuesten KI-Innovationen können den Umfang und die Geschwindigkeit der Reaktionsbemühungen bei Sicherheitsvorfällen verbessern. Gegner werden wahrscheinlich KI nutzen, um ihre Wirkung zu verstärken . Daher ist es wichtig, KI und ihre aktuellen und künftigen Fähigkeiten zu nutzen , um beim Schutz vor ihnen flexibel und kosteneffektiv zu bleiben.

4. Harmonisieren Sie die Kontrollen auf Plattformebene, um konsistente Sicherheit im gesamten Unternehmen zu gewährleisten

Konsistenz über Kontroll-Frameworks hinweg kann die Risikominderung von KI unterstützen und den Schutz über verschiedene Plattformen und Tools hinweg skalieren, um sicherzustellen, dass allen KI-Anwendungen der beste Schutz auf skalierbare und kosteneffiziente Weise zur Verfügung steht. Bei Google umfasst dies die Ausweitung standardmäßig sicherer Schutzmaßnahmen auf KI-Plattformen wie Vertex AI und Security AI Workbench sowie die Integration von Kontrollen und Schutzmaßnahmen in den Softwareentwicklungslebenszyklus. Funktionen, die allgemeine Anwendungsfälle abdecken, wie die Perspective API , können dazu beitragen, dass das gesamte Unternehmen von modernsten Schutzmaßnahmen profitiert.

5. Passen Sie die Kontrollen an, um Abhilfemaßnahmen anzupassen und schnellere Feedbackschleifen für den KI-Einsatz zu schaffen

Ständiges Testen von Implementierungen durch kontinuierliches Lernen kann sicherstellen, dass Erkennungs- und Schutzfunktionen der sich ändernden Bedrohungsumgebung gerecht werden. Dazu gehören Techniken wie Verstärkungslernen auf der Grundlage von Vorfällen und Benutzerfeedback sowie Schritte wie die Aktualisierung von Trainingsdatensätzen, die Feinabstimmung von Modellen, um strategisch auf Angriffe zu reagieren, und die Möglichkeit, dass die Software, die zum Erstellen von Modellen verwendet wird, weitere Sicherheit in den Kontext einbetten kann (z. B. Erkennung). anormales Verhalten). Unternehmen können auch regelmäßige Red-Team- Übungen durchführen, um die Sicherheit von KI-gestützten Produkten und Funktionen zu verbessern.

6. Kontextualisieren Sie die Risiken von KI-Systemen in den umgebenden Geschäftsprozessen

Schließlich kann die Durchführung von End-to-End-Risikobewertungen im Zusammenhang mit der Art und Weise, wie Unternehmen KI einsetzen, bei der Entscheidungsfindung hilfreich sein. Dazu gehört eine Bewertung des End-to-End-Geschäftsrisikos, wie z. B. Datenherkunft, Validierung und Überwachung des Betriebsverhaltens für bestimmte Arten von Anwendungen. Darüber hinaus sollten Unternehmen automatisierte Prüfungen zur Validierung der KI-Leistung einrichten.

[Google-Blog]

---

---