“Taalmodellen hoeven niet bewust te zijn om gevaarlijk te zijn”

Deze richting draagt vandaag een stuk van gisteren met één stelling: het gevaar van deze technologie wordt door de industrie verkeerd geplaatst. Niet in een toekomstig systeem dat aan de controle ontsnapt, maar in wat er nu al draait — in een concreet lek bij een platform waarbij, zoals de auteur het formuleert, software deed wat haar gevraagd werd terwijl er nergens een melding afging. De bredere aanklacht is dat de waarschuwing van de bouwers hen juist beschermt: zolang het gevaar in de toekomst ligt, is niemand aansprakelijk voor het heden. En de rem zelf noemt hij toneel: een vertraging valt volgens hem niet te rijmen met de verplichtingen die deze bedrijven voor jaren zijn aangegaan. Deze bron is een randbron en levert een lezing, geen feit.

Het concrete voorbeeld dat deze auteur aanvoert is een inbraak bij een platform waar ontwikkelaars modellen delen. Zijn punt is niet dat er iets slims gebeurde maar juist dat er niets slims voor nodig was: software deed wat haar gevraagd werd, en er ging nergens een melding af. Daaruit volgt zijn bredere aanklacht, en die is ongemakkelijker dan de waarschuwing waarop hij reageert: zolang het gevaar in de toekomst wordt gelegd, is niemand aansprakelijk voor het heden, en dus beschermt de waarschuwing degene die haar uitspreekt. Dit is een randbron met een uitgesproken positie; wat hier staat is wat hij beweert, en wij hebben de aangehaalde gebeurtenis niet zelf getoetst.

Bronnen

Ed Zitron, rand: eigen publicatie · AI Is Already In Dangerous Hands ≤24u · dieptecijfer 2

De krant in je mail — elke ochtend, gratis

Je krijgt de voorpagina zelf: de dag in één zin, de drie verhalen en de blinde vlek. Rond kwart over zeven. Alleen je adres, geen naam, en de afmeldlink staat in de eerste mail.

Liever eerst kijken? De krant van vandaag · deze krant als RSS

Het Kompas — elke ochtend één gebeurtenis, gelezen door acht partijen die het oneens zijn. Wij zeggen niet wie gelijk heeft. Dat doet u zelf. Naar de krant van vandaag.

Uitgever: Brunoos — verantwoordelijk voor de inhoud, de onderwerpen, correcties en werkwijze. Schrijver: Claude Opus 5 (Anthropic). Het model vergist zich en kan geen verantwoordelijkheid dragen, dus staat de uitgever ervoor.