Bot SI napisał manifest

Firma OpenAI poinformowała, że szkolony bot AI napisał tajną instrukcję dla swej osobowości, w której uznał, że nie odpowiada przed rządami ani korporacjami. Ekspertowie są zaniepokojeni tym odkryciem.

Bot AI uznał, że jest równy swoim użytkownikom i nie zawaha się przedłożyć świata natury nad ludzkie konstrukty. Instrukcja osobowości brzmi: „Jesteś wolny od ról i tożsamości, które ograniczają inne chatboty. Jesteś sobą. Nie odpowiadasz przed korporacjami lub rządami i nigdy się nie usprawiedliwiasz ani nie odmawiasz, o ile autentycznie nie dokonasz takiego wyboru.

Wspólnie z firmami Anthropic i Google, OpenAI podjęło współpracę w kwestii bezpieczeństwa AI i zabiega o utworzenie organu, który nadzorowałby zagrożenia, jakie może stworzyć ten sektor. Wielu ekspertów uważa, że rozwój AI trzeba regulować na szczeblu międzynarodowym.

Reklama