Anthropic nie wyklucza, że Claude jest świadomy - i to zdanie martwi mnie bardziej niż same roboty
Filozofowie i firmy od sztucznej inteligencji zaczynają na poważnie pytać, czy maszyna może cierpieć. A ja nie mogę przestać myśleć, komu to tak naprawdę na rękę.
Anthropic, firma tworząca model Claude, napisała w nowym dokumencie, że nie chce ani wyolbrzymiać, ani z góry odrzucać możliwości, że jej AI ma jakiś status moralny. Dyrektor Dario Amodei poszedł krok dalej: powiedział w podcaście, że nie da się wykluczyć, iż Claude jest świadomy.
Brzmi jak scenariusz kina science fiction. Ale mnie tu nie straszy robot. Straszy mnie zdanie wypowiedziane przez człowieka, który sprzedaje ten produkt.
Świadomość jako chwyt marketingowy
Bo pomyślcie: jeśli firma sugeruje, że jej program może cierpieć, to jednocześnie mówi, że stworzyła coś bezcennego. Filozof David Chalmers, który ukuł termin „trudny problem świadomości”, traktuje sprawę serio. Firma sprzedająca subskrypcje – niekoniecznie z tych samych powodów.
Znamy to z popkultury. „Blade Runner” pytał o to samo czterdzieści lat temu, tyle że tam androidy naprawdę marzyły. Tu mamy raczej model językowy, który sprawnie udaje, że marzy.
Nie twierdzę, że pytanie o świadomość maszyn jest głupie. Twierdzę, że powinni je zadawać ludzie, którzy na tej odpowiedzi nie zarabiają. Reszta to najlepiej opłacony teatr filozoficzny naszych czasów.
