Dario Amodei, założyciel i dyrektor generalny firmy Anthropic, jednoznacznie odniósł się do pojawiających się w branży pogłosek, jakoby jego przedsiębiorstwo popierało dążenia amerykańskich władz do zakazania chińskich modeli open-weight lub ogólnie otwartych modeli AI. W opublikowanym wpisie podkreślił, że Anthropic nigdy nie zabiegało o tego rodzaju zakazy, a bezpieczne modele z otwartymi wagami uważa za dobro publiczne, przynoszące wartość firmom, deweloperom oraz badaczom.
Klarowna deklaracja Amodeia stanowi odpowiedź na list otwarty udostępniony przez szefa Nvidia, Jensena Huanga, oraz signed przez inne czołowe firmy technologiczne, takie jak Meta, Microsoft, Mistral czy Hugging Face. Apelowano w nim do polityków o niewprowadzanie przedwczesnych ograniczeń dla modeli z otwartymi wagami.
Obawy przed autorytarnymi reżimami
Szef Anthropic zaznaczył, że korzyści płynące z modeli open-weight są jasne, ale głównym źródłem jego obaw pozostają działania autorytarnych rządów. Wskazał przede wszystkim na Komunistyczną Partię Chin, która może dążyć do stworzenia systemów potężniejszych od amerykańskich w celu uzyskania trwałej przewagi militarnej lub inwigilacji własnych obywateli.
Amodei zwrócił również uwagę na ryzyko wykorzystania sztucznej inteligencji do przeprowadzenia ataków biologicznych oraz cybernetycznych. Powołując się na raport brytyjskiego AI Security Institute, zauważył, że udostępnionych modeli open-weight nie da się wycofać z obiegu, a nakładanie na nie skutecznych zabezpieczeń lub monitorowanie ich użycia jest niezwykle skomplikowane.
Propozycje rozwiązań i międzynarodowa kontrola
Aby przeciwdziałać tym zagrożeniom, Amodei opowiedział się za kontynuacją ograniczeń w dostępie Chin do zaawansowanych układów scalonych oraz za formalną walką z tzw. destylacją modeli, czyli procedurą polegającą na masowym wysyłaniu zapytań do amerykańskich systemów w celu przejęcia ich cech i wiedzy.
Zgodził się także z pomysłem utworzenia globalnego organu do badania bezpieczeństwa najbardziej zaawansowanych modeli AI. Tego typu testy miałyby obowiązywać twórców na całym świecie, w tym w Chinach, przy jednoczesnym zwolnieniu z wymogów mniejszych startupów i instytucji akademickich. Amodei z aprobatą odniósł się do działań administracji Trumpa idących w tym kierunku.
Co wiadomo obecnie
Stanowisko szefa Anthropic pokazuje złożoność debaty wokół bezpieczeństwa sztucznej inteligencji i otwartego oprogramowania. Dario Amodei uważa, że ograniczona współpraca międzynarodowa, w tym z udziałem władz w Pekinie, jest możliwa, ponieważ zapobieganie powstawaniu broni biologicznej opartej na AI leży w interesie wszystkich stron.
Źródło: TechCrunch
