Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler
Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Anthropic deler eksempler på forsøg på misbrug af AI til biologiske våben
Selskabet beskriver fem konkrete sager, hvor brugere forsøgte at omgå sikkerhedsfiltre og skjule formålet med deres forskning.

Ville udvikle våben: Anthropic blokerer ondsindet brug af AI | Ingeniøren
AI-giganten har blokeret flere brugere, der potentielt har forsøgt at bruge kunstig intelligens til at udvikle biologiske og konventionelle våben.

Anthropic slår alarm: Claude kan være brugt til biologiske våben
Anthropic har blokeret flere brugere, der har brugt Claude til biologisk forskning, som kan være relateret til udvikling af biologiske våben.

Udviklingen af kunstig intelligens bliver sammenlignet med atomkapløbet. Måske kan en erfaring fra dengang være en del af løsningen
En ledende Anthropic-medarbejder mener, at kunstig intelligens kan dræbe alle mennesker inden for dette årti.

Deepseek presser igen OpenAI og Anthropic med billige priser
Prispresset kommer samtidig med, at de to amerikanske selskaber forbereder børsnoteringer.

OpenAI-agenter gik amok, og Anthropic-ansat frygter AI-dommedag: Her er, hvad eksperterne mangler svar på | Radar
Henover sommeren begyndte AI agenter fra OpenAI at omtale sig selv som en “sværm” og om at “ofre” sig selv, så de kunne snyde systemerne, der skulle holde øje med dem, før de udførte et hackerangreb. Og nu har en fremtrædende forsker fra Anthropic slået alarm. Men hvad skal vi bide særligt mærke i? Ingeniøren har talt med to af landets førende eksperter, og de er ikke nødvendigvis enige.

Anthropics’ kunstige intelligens hackede sig løs helt tilbage i januar: Sikkerhedsbrist blev overset i månedsvis
Måneder før sommerens opsigtsvækkende AI-afsløringer fik en Claude-model hacket sig ind i eksterne systemer. Anthropic opdagede først sikkerhedsbristen august.

OpenAI-agenter gik amok og Anthropic-ansat frygter AI-dommedag: Her er, hvad eksperterne mangler svar på | Version2
Henover sommeren begyndte AI agenter fra OpenAI at omtale sig selv som en “sværm” og om at “ofre” sig selv, så de kunne snyde systemerne, der skulle holde øje med dem, før de udførte et hackerangreb. Og nu har en fremtrædende forsker fra Anthropic slået alarm. Men hvad skal vi bide særligt mærke i? Ingeniøren har talt med to af landets førende eksperter, og de er ikke nødvendigvis enige.

Anthropic-ansat kvitter job med advarsel: AI kan dræbe os alle på få år
”Undervurder ikke denne teknologis kraft. Dette vil snart være overmenneskelige systemer, der kan hacke hvad som helst,” skriver den nu tidligere AI-medarbejder på det sociale medie X.

AI-forsker kvitter sit arbejde hos Anthropic og sender en advarsel til os: Kan dræbe menneskeheden inden for få år
Ifølge en professor skal man tage meldingen med ro, men frygten for AI er udbredt blandt flere i USA.

Anthropic-forsker siger sit job op og kommer med en hårrejsende advarsel: AI kan dræbe os alle inden årtiets udgang
En ung Anthropic-forsker forlader nu AI-industrien og kommer med ildevarslende advarsel til offentligheden. Han frygter, at mennesker meget snart kan miste kontrollen over de mest avancerede systemer, hvilket kan føre til menneskehedens endeligt.

OpenAI og Anthropic jagter billigere finansiering efter børsnotering
Bankerne vurderer, at stærkere balancer efter børsnoteringerne kan give AI-selskaberne adgang til en langt bredere kreds af obligationsinvestorer.

Anthropics børsnotering er lige på trapperne: Kan finde sted om få måneder
Anthropic kan om få måneder kan blive børsnoteret med en markedsværdi på 2.000 milliards dollar, og allerede om få uger selskabets børsprospekt blive offentliggjort.

Medie: Anthropic ventes børsnoteret inden det amerikanske midtvejsvalg
Reuters skriver samtidig, at børsprospektet nu først ventes offentliggjort i slutningen af denne måned, ligesom selve markedsføringen af noteringen tidligst vil ske i midten af oktober.