Google wird im Juli einen Bioverteidigungsgipfel veranstalten, der sich mit den wachsenden Risiken im Zusammenhang mit fortschrittlichen KI-Systemen in der Biologie befassen soll. Das Unternehmen kündigte die Veranstaltung als Teil einer größeren Anstrengung an, Bedrohungen durch Dual-Use-Technologien einen Schritt voraus zu sein und gleichzeitig den wissenschaftlichen Fortschritt zu beschleunigen.
KI-Tools wie Gemini helfen Forschern bereits dabei, Medikamentenkandidaten zu screenen und Proteininteraktionen zu modellieren. Mit der Verbesserung dieser Systeme steigt jedoch auch das Missbrauchspotenzial. Dieselben Tools, die das Impfstoffdesign oder die Enzymproduktion optimieren, könnten böswilligen Akteuren dabei helfen, gefährliche biologische Wirkstoffe zu reproduzieren. Google möchte nicht warten, bis sich dieses Szenario entfaltet.
Um dieses Risiko zu verringern, führt das Unternehmen jetzt Erkennungssysteme auf allen Frontier-Modellen ein. Diese Systeme blockieren unsichere Anfragen in Echtzeit und lösen Folgeprüfungen aus. Die Teams trainieren die Modelle auch, um detaillierte Antworten für sensible Themen wie Gentechnik oder Virologie zu vermeiden.
Red Teamer – interne und externe Experten – testen das System unter Stress und versuchen, Risse zu finden, bevor es jemand anderes tut. Diese Gruppen bringen KI-Sicherheitsexperten mit Biologen zusammen, um blinde Flecken auf beiden Seiten zu schließen.
Weitere aktuelle Google-Nachrichten –
Der Plan von Google beschränkt sich nicht darauf, Modelle so zu trainieren, dass sie riskante Eingabeaufforderungen ablehnen. Es umfasst Kontrollen über den Modellzugriff, die Härtung der Infrastruktur und die strikte Durchsetzung von Richtlinien. Hochrisikobenutzer müssen bei Bedarf mit einer Kontosperrung oder sogar einer rechtlichen Eskalation rechnen.
Das Unternehmen hat sein Preparedness Framework entwickelt, um zu messen, wann ein Modell in den Bereich hoher Leistungsfähigkeit übergeht. Es veröffentlicht Systemkarten, um die Leistung von Modellen während des Tests mitzuteilen – es werden jedoch Einzelheiten übersprungen, die Angreifern helfen könnten. Google hat Teile dieses Frameworks bereits auf aktuelle Modelle wie o3 angewendet und plant weitere, wenn neuere Modelle auf den Markt kommen.
Der Gipfel wird Regierungen, Forscher und NGOs zusammenbringen, um sichere Möglichkeiten für den Einsatz von KI in den Biowissenschaften zu erkunden. Zu den Themen gehören Gegenmaßnahmen, Diagnose und die Vermeidung von Worst-Case-Szenarien. Google hofft, dass stärkere öffentlich-private Allianzen die Bereitschaft steigern können, bevor die Risiken die Abwehrmaßnahmen überwältigen.
Das Unternehmen gibt an, dass sein langfristiger Plan darin besteht, geprüften Institutionen den Zugang zu fortgeschrittenen Technologien zu erleichternKITools unter strengen Richtlinien – insbesondere für Biotech-Anwendungsfälle. Es unterstützt auch strengere Branchenregeln, wie etwa eine bessere Überprüfung synthetischer DNA-Bestellungen und eine schnellere Erkennung von Ausbrüchen.
Es könnte Sie auch interessieren zu lesen –
![Wie viel kostet es, ein Android-Telefon zu entsperren? [Detaillierte Informationen]](https://elsefix.com/statics/image/placeholder.png)
