Meta’s AI-leiders willen dat je weet dat angsten over AI-existentieel risico “belachelijk” zijn

Het is echt een rare tijd in AI. In slechts zes maanden tijd is het publieke discours over de technologie gegaan van “Chatbots genereren funny sea shanties” naar “AI-systemen kunnen het uitsterven van mensen veroorzaken”. Wie voelt er nog meer whiplash?

Mijn collega Will Douglas Heaven vroeg AI-experts waarom mensen het precies hebben over existentieel risico, en waarom nu. Meredith Whittaker, voorzitter van de Signal Foundation (die achter de privéberichten-app Signal zit) en een voormalig Google-onderzoeker, vat het mooi samen: “Spookverhalen zijn besmettelijk. Het is echt spannend en stimulerend om bang te zijn.

We zijn hier natuurlijk al eerder geweest: AI doom volgt AI hype. Maar deze keer voelt anders. Het Overton-venster is verschoven in discussies over AI-risico’s en beleid. Wat ooit een extreme kijk was, is nu een mainstream gesprekspunt, dat niet alleen de krantenkoppen trekt, maar ook de aandacht van wereldleiders.

Lees hier meer van Will.

https://buy.tinypass.com/checkout/template/cacheableShow?aid=WUOCNSUgpu&templateId=OTCBIZBLG8WE&templateVariantId=OTVAO7O3EEMMV&offerId=fakeOfferId&experienceId=EX1WVIM3YDOB&iframeId=offer_d274bf86ca802afef779-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fauth.technologyreview.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.technologyreview.com Whittaker is niet de enige die dit denkt. Terwijl invloedrijke mensen in Big Tech-bedrijven zoals Google en Microsoft, en AI-startups zoals OpenAI, er alles aan hebben gedaan om mensen te waarschuwen voor extreme AI-risico’s en hun AI-modellen te sluiten voor publieke controle, gaat Meta de andere kant op.

Vorige week, op een van de heetste dagen van het jaar tot nu toe, ging ik naar het hoofdkantoor van Meta in Parijs om te horen over het recente AI-werk van het bedrijf. Terwijl we champagne dronk op een dak met uitzicht op de Eiffeltoren, vertelde Meta’s belangrijkste AI-wetenschapper, Yann LeCun, een Turing Award-winnaar, ons over zijn hobby’s, waaronder het bouwen van elektronische blaasinstrumenten. Maar hij was er echt om te praten over waarom hij denkt dat het idee dat een superintelligent AI-systeem de wereld zal overnemen “onbelachelijk belachelijk” is.

Mensen maken zich zorgen over AI-systemen die “alle middelen ter wereld kunnen rekruteren om het universum in paperclips te transformeren”, zei LeCun. “Dat is gewoon krankzinnig.” (Hij verwees naar het “paperclip maximizer-probleem”, een gedachte-experiment waarbij een AI vroeg om zoveel mogelijk paperclips te maken, doet dit op manieren die uiteindelijk de mens schaden, terwijl het nog steeds zijn belangrijkste doel vervult.)

Hij is in schril verzet tegen Geoffrey Hinton en Yoshua Bengio, twee baanbrekende AI-onderzoekers (en de twee andere “voorvaderen van AI”), die de Turing-prijs deelden met LeCun. Beiden zijn onlangs uitgesproken geworden over existentieel AI-risico.

Joelle Pineau, Meta’s vice-president AI-onderzoek, is het eens met LeCun. Ze noemt het gesprek ‘ongebonden’. De extreme focus op toekomstige risico’s laat niet veel bandbreedte over om te praten over de huidige AI-schade, zegt ze.

Gerelateerd verhaal

Hoe te praten over AI (zelfs als je niet veel weet over AI)

Plus: slechte inhoud vangen in het tijdperk van AI.

“Wanneer je begint te kijken naar manieren om een rationele discussie over risico te voeren, kijk je meestal naar de kans op een uitkomst en vermenigvuldig je deze met de kosten van die uitkomst. [De existentiële risicomenigte] heeft in wezen een oneindige prijs op die uitkomst gezet”, zegt Pineau.

“Als je oneindig veel kost, kun je geen rationele discussies voeren over andere uitkomsten. En dat haalt de zuurstof uit de kamer voor elke andere discussie, wat ik jammer vind.

Hoewel praten over existentieel risico’s een signaal is dat tech-mensen zich bewust zijn van AI-risico’s, hebben tech-doomers een groter bijbedogger, zeggen LeCun en Pineau: het beïnvloeden van de wetten die technologie beheersen.

“Op dit moment bevindt OpenAI zich in een positie waarin ze voorop lopen, dus het juiste is om de deur achter je dicht te slaan”, zegt LeCun. “Wil je een toekomst waarin AI-systemen in wezen transparant zijn in hun werking of … eigendom zijn van en eigendom zijn van een klein aantal technologiebedrijven aan de westkust van de VS?”

Wat duidelijk was uit mijn gesprekken met Pineau en LeCun was dat Meta, dat langzamer is dan concurrenten om geavanceerde modellen en generatieve AI in producten uit te rollen, rekent op zijn open-sourcebenadering om het een voorsprong te geven in een steeds competitievere AI-markt. Meta is bijvoorbeeld open-sourcing zijn eerste model in overeenstemming met LeCun’s visie om AI-systemen te bouwen met intelligentie op menselijk niveau.

https://buy.tinypass.com/checkout/template/cacheableShow?aid=WUOCNSUgpu&templateId=OT1UKGGYDABG&templateVariantId=OTV0UIYE3N6OR&offerId=fakeOfferId&experienceId=EXGEI687Y0O9&iframeId=offer_1dc8ede44881317c6d78-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fauth.technologyreview.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.technologyreview.com Open-sourcing-technologie legt een hoge lat, omdat het buitenstaanders fouten laat vinden en bedrijven verantwoordelijk kan houden, zegt Pineau. Maar het helpt ook de technologieën van Meta een meer integraal onderdeel te worden van de infrastructuur van het internet.

“Als je je technologie daadwerkelijk deelt, heb je de mogelijkheid om de manier te besturen waarop technologie vervolgens zal worden gedaan”, zegt ze.

Dieper leren

Vijf grote afhaalrestaurants van de Europese AI Act

Het is tijd voor de AI Act. Vorige week stemde het Europees Parlement om zijn ontwerpregels goed te keuren. Mijn collega Tate Ryan-Mosley heeft vijf afhaalrestaurants van het voorstel. Het parlement zou willen dat de AI Act een totaal verbod op real-time biometrie en voorspellend politiewerk in openbare ruimtes, transparantieverplichtingen voor grote AI-modellen en een verbod op het schrapen van auteursrechtelijk beschermd materiaal omvat. Het classificeert ook aanbevelingsalgoritmen als “hoogrisico” AI die strengere regelgeving vereist.

Wat gebeurt er nu? Dit betekent niet dat de EU dit beleid regelrecht gaat overnemen. Vervolgens zullen leden van het Europees Parlement details moeten uitsmeepen met de Raad van de Europese Unie en de uitvoerende macht van de EU, de Europese Commissie, voordat de ontwerpregels wet worden. De definitieve wetgeving zal een compromis zijn tussen drie verschillende ontwerpen van de drie instellingen. Europese wetgevers streven ernaar om de AI Act tegen december definitief in vorm te krijgen, en de verordening zou tegen 2026 van kracht moeten zijn.

Je kunt mijn vorige stuk over de AI Act hier lezen.

Bits en Bytes

Een gevecht om gezichtsherkenning zal de AI Act maken of breken
Het al dan niet verbieden van het gebruik van gezichtsherkenningssoftware op openbare plaatsen zal de grootste strijd zijn in de laatste onderhandelingen voor de AI Act. Leden van het Europees Parlement willen een volledig verbod op de technologie, terwijl EU-landen de vrijheid willen om deze te gebruiken bij het toezicht. (Politiek)

AI-onderzoekers ondertekenen een brief waarin wordt opgeroepen tot focus op de huidige AI-schade
Nog een open brief! Deze komt van AI-onderzoekers op de ACM-conferentie over eerlijkheid, verantwoording en transparantie (FAccT), waarbij beleidsmakers worden opgeroepen bestaande tools te gebruiken om “AI-systemen te ontwerpen, te controleren of te weerstaan om democratie, sociale rechtvaardigheid en mensenrechten te beschermen.” Ondertekenaars zijn onder meer Alondra Nelson en Suresh Venkatasubramanian, die de AI Bill of Rights van het Witte Huis hebben geschreven.

Het VK wil een wereldwijde hub zijn voor AI-regulering
De Britse premier, Rishi Sunak, pitchte zijn land als de wereldwijde thuisbasis van kunstmatige intelligentie. Sunak’s hoop is dat het VK een “derde weg” kan bieden tussen de AI Act van de EU en het Wilde Westen van de VS. Sunak organiseert in de herfst een AI-regelgevingstop in Londen. Ik ben sceptisch. Het VK kan het proberen, maar uiteindelijk zullen zijn AI-bedrijven gedwongen worden om te voldoen aan de AI Act van de EU als ze zaken willen doen in het invloedrijke handelsblok. (Tijd)

YouTube zou Google een voorsprong kunnen geven in AI
Google heeft gebruik gemaakt van de rijke videorepository van zijn videosite YouTube om zijn volgende grote taalmodel te trainen. Dit materiaal zou Google kunnen helpen een model te trainen dat niet alleen tekst, maar ook audio en video kan genereren. Blijkbaar gaat dit niet verloren op OpenAI, dat in het geheim YouTube-gegevens heeft gebruikt om zijn AI-modellen te trainen. (De Informatie)

Een vier weken oude AI-startup heeft € 105 miljoen opgehaald
Praten over AI hype. Mistral, een gloednieuwe Franse AI-startup zonder producten en nauwelijks werknemers, is erin geslaagd om 105 miljoen euro op te halen in Europa’s grootste zaadronde ooit. De oprichters van het bedrijf werkten eerder bij DeepMind en Meta. Twee van hen zaten achter het team dat Meta’s open-source Llama-taalmodel ontwikkelde. (Financial Times)