Ein Frühwarnsystem für neue Risiken von KI – Google DeepMind
Google DeepMind hat ein neues Forschungsprojekt vorgestellt, das sich mit der Entwicklung eines Frühwarnsystems für neue Risiken von KI-Systemen befasst. Das Projekt zielt darauf ab, ein Framework zur Bewertung von General-Purpose-Modellen gegenüber neuen Bedrohungen zu schaffen. Die Forscher von Google DeepMind haben ein Framework entwickelt, das auf der Idee der „Adversarial Examples“ basiert. Dabei handelt es sich um speziell entwickelte Inputs, die dazu dienen, die Leistung von KI-Systemen zu testen und zu verbessern.
Das Framework soll dazu beitragen, die Sicherheit von KI-Systemen zu verbessern und die Risiken von KI-Systemen zu minimieren. Es soll auch dazu beitragen, die Vertrauenswürdigkeit von KI-Systemen zu erhöhen und das Verständnis für die Funktionsweise von KI-Systemen zu verbessern.
Das Projekt ist Teil der Bemühungen von Google DeepMind, verantwortungsvoll an der Spitze der KI-Forschung zu agieren. Das Unternehmen hat sich zum Ziel gesetzt, die Entwicklung von KI-Systemen voranzutreiben, ohne dabei die Sicherheit und das Wohlergehen der Gesellschaft aus den Augen zu verlieren.
Das Projekt von Google DeepMind ist nicht das erste seiner Art. Im Januar 2022 haben BioNTech und InstaDeep ein Frühwarnsystem für COVID-19-Varianten entwickelt, das auf künstlicher Intelligenz basiert. Das System kombiniert strukturelles Modellieren des Spike-Proteins mit künstlicher Intelligenz, um potenziell gefährliche Varianten von SARS-CoV-2 zu erkennen und zu überwachen.
Ein weiteres Beispiel für die Verwendung von künstlicher Intelligenz in der Biologie ist die Fusion von AI und Biologie bei DeepMind und Meta Press. Einige Wissenschaftler erwarten, dass die neue Klasse von KI-Systemen die Arbeit in den Lebenswissenschaften, insbesondere bei der Arzneimittelentwicklung, beschleunigen wird.
Insgesamt zeigt die Entwicklung von Frühwarnsystemen für KI-Risiken, dass die KI-Industrie bestrebt ist, verantwortungsvoll zu handeln und die Sicherheit und das Wohlergehen der Gesellschaft in den Vordergrund zu stellen.
Links:
