"An Alien Mind": il chief scientist di OpenAI si dichiara improvvisamente cauto sull'allineamento
Jakub Pachocki, chief scientist di OpenAI, pubblica un saggio che suona come un cambio di tono profondo rispetto alla linea aziendale: "Questo è un momento che richiede estrema cautela. Sono preoccupato che nessuno sia preparato per le conseguenze di un continuo rapido aumento dell'intelligenza artificiale". Pachocki scrive che lo scaling dei sistemi AI deve essere vincolato dalla fiducia nella sicurezza, propone di trasformare framework volontari come il Preparedness Framework in "safety bar" obbligatorie fatte valere da una rete di auditor terzi, agenzie governative o organismi internazionali, e dice di sperare che i rallentamenti volontari diventino pratica comune. Il pezzo, ritwittato da Sam Altman come "un saggio importante", arriva lo stesso giorno del post "Research acceleration", ed è arrivato dopo che per due giorni OpenAI è rimasta sotto pressione sulla vicenda del wiki incident. Il so what per chi segue la governance dei lab: la domanda non è più se autorità esterne sorveglieranno lo scaling, ma chi le designerà — e i requisiti di audit terzo diventeranno vincolo di procurement prima che obbligo di legge.