AI-giganter går sammen om at oprette selvregulerende organ
Det får kritik fra flere fronter, at AI-giganterne OpenAI og Anthropic lægger op til at regulere sig selv.

Anthropic-stifter: AI bør have en obligatorisk nødstopknap
En af stifterne bag AI-selskabet Anthropic mener, at myndigheder kan blive nødt til at kræve en egentlig ”kill switch”, så avancerede AI-systemer kan lukkes helt ned, hvis de udvikler sig i en farlig retning.

Anthropic forbereder børsnotering efter 14-dobling af omsætningen
AI-selskabet forventer endnu et kvartal med justeret overskud og meget høje bruttomarginer forud for børsnotering, mens analytikere vurderer, at konkurrenter får svært ved at følge med.

Tidligere ansat i Anthropic: AI truer menneskeheden
I et interview hos BBC One fortæller Jacob Coxon nu mere om sin erfaring fra AI-branchen. Han sagde tidligere på ugen sit job som AI-forsker hos Anthropic op og advarede om, at flere ansatte er oprigtigt bekymret for, om AI i fremtiden vil kunne udslette menneskeheden. Selv tror Coxon også, at AI kunne udgøre en fare for menneskeheden, hvis udviklingen fortsætter i samme tempo som nu.

Tre AI-giganter enige: Udviklingen bør gå langsommere
Anthropic, OpenAI og Elon Musks AI-selskab er enige om, at udviklingen af de mest avancerede AI-modeller bør sættes ned i tempo. Men der er stor uenighed om, hvor alvorlige risiciene egentlig er.

Anthropic advarer om misbrug: Ondsindede aktører forsøger at

AI-selskab har stoppet flere forskere, hvis research kunne føre til udvikling af biologiske våben
Udmeldingen kommer, efter at en forsker fra Anthropic har sagt op i frygt for teknologien.

Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler
Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Anthropic deler eksempler på forsøg på misbrug af AI til biologiske våben
Selskabet beskriver fem konkrete sager, hvor brugere forsøgte at omgå sikkerhedsfiltre og skjule formålet med deres forskning.

Ville udvikle våben: Anthropic blokerer ondsindet brug af AI | Ingeniøren
AI-giganten har blokeret flere brugere, der potentielt har forsøgt at bruge kunstig intelligens til at udvikle biologiske og konventionelle våben.

Anthropic slår alarm: Claude kan være brugt til biologiske våben
Anthropic har blokeret flere brugere, der har brugt Claude til biologisk forskning, som kan være relateret til udvikling af biologiske våben.

Udviklingen af kunstig intelligens bliver sammenlignet med atomkapløbet. Måske kan en erfaring fra dengang være en del af løsningen
En ledende Anthropic-medarbejder mener, at kunstig intelligens kan dræbe alle mennesker inden for dette årti.

Deepseek presser igen OpenAI og Anthropic med billige priser
Prispresset kommer samtidig med, at de to amerikanske selskaber forbereder børsnoteringer.

OpenAI-agenter gik amok, og Anthropic-ansat frygter AI-dommedag: Her er, hvad eksperterne mangler svar på | Radar
Henover sommeren begyndte AI agenter fra OpenAI at omtale sig selv som en “sværm” og om at “ofre” sig selv, så de kunne snyde systemerne, der skulle holde øje med dem, før de udførte et hackerangreb. Og nu har en fremtrædende forsker fra Anthropic slået alarm. Men hvad skal vi bide særligt mærke i? Ingeniøren har talt med to af landets førende eksperter, og de er ikke nødvendigvis enige.

Anthropics’ kunstige intelligens hackede sig løs helt tilbage i januar: Sikkerhedsbrist blev overset i månedsvis
Måneder før sommerens opsigtsvækkende AI-afsløringer fik en Claude-model hacket sig ind i eksterne systemer. Anthropic opdagede først sikkerhedsbristen august.