Édito
Editorial
Leitartikel
Editoriale
Edito
Édito — Quand le mensonge à la machine devient un mensonge à la justiceEditorial — When Lying to the Machine Becomes Lying to JusticeLeitartikel — Wenn die Lüge an die Maschine zur Lüge vor dem Gericht wirdEditoriale — Quando la menzogna alla macchina diventa una menzogna alla giustiziaEdito — Quand la bujia a la machina la deventa bujia a la giüstizzia
Deux histoires du 31 octobre racontent, chacune à sa manière, la même bascule. La première : des comptes ChatGPT pris d'assaut via une faille d'authentification, révélée par des chercheurs indépendants. La seconde : un tribunal brésilien sanctionnant une injection de prompt glissée dans une requête. Dans les deux cas, le mensonge adressé à une machine est désormais traité comme un mensonge adressé à une institution. C'est une bonne nouvelle : ni la sécurité applicative ni la procédure judiciaire n'ont besoin d'un régime d'exception pour l'IA — seulement d'une application rigoureuse des principes existants. La leçon de la semaine pour les labos est moins réconfortante : leurs produits sont devenus, en quelques mois, des infrastructures critiques, avec la surface d'attaque qui va avec.
Two stories from October 31 tell, each in its own way, of the same shift. The first: ChatGPT accounts breached through an authentication flaw, uncovered by independent researchers. The second: a Brazilian court sanctioning a prompt injection slipped into a court filing. In both cases, a lie told to a machine is now treated as a lie told to an institution. That is good news: neither application security nor judicial procedure needs an exceptional regime for AI — only rigorous enforcement of existing principles. The week's lesson for the labs is less comforting: in a matter of months, their products have become critical infrastructure, attack surface included.
Zwei Geschichten vom 31. Oktober erzählen, jede auf ihre Weise, von derselben Wende. Die erste: ChatGPT-Konten, über eine Authentifizierungslücke überrannt, aufgedeckt von unabhängigen Forschern. Die zweite: ein brasilianisches Gericht, das eine in ein Gesuch geschmuggelte Prompt-Injection sanktioniert. In beiden Fällen wird die Lüge an eine Maschine heute wie eine Lüge an eine Institution behandelt. Das ist eine gute Nachricht: Weder die Anwendungssicherheit noch das Gerichtsverfahren brauchen ein Ausnahmerecht für KI — nur eine rigorose Anwendung der bestehenden Grundsätze. Die Lektion der Woche für die Labore ist weniger tröstlich: Ihre Produkte sind innert Monaten zu kritischer Infrastruktur geworden — samt der dazugehörigen Angriffsfläche.
Due storie del 31 ottobre raccontano, ciascuna a modo suo, lo stesso ribaltamento. La prima: account ChatGPT presi d'assalto tramite una vulnerabilità di autenticazione, rivelata da ricercatori indipendenti. La seconda: un tribunale brasiliano che sanziona una prompt injection nascosta in una richiesta giudiziaria. In entrambi i casi, la menzogna rivolta a una macchina viene ormai trattata come una menzogna rivolta a un'istituzione. È una buona notizia: né la sicurezza applicativa né la procedura giudiziaria hanno bisogno di un regime d'eccezione per l'IA — solo di un'applicazione rigorosa dei principi esistenti. La lezione della settimana per i laboratori è meno rassicurante: i loro prodotti sono diventati, in pochi mesi, infrastrutture critiche, con la superficie d'attacco che ne consegue.
Düi storie del 31 de otober i cunten, ogniduna a la soa manera, el midem cambiament. La prima: di cont ChatGPT ciapaa d'assalt cun ona faila d'autentegazzion, revelada di ricercador indipendent. La segonda: on tribünal brasilian che'l sanziona ona injizzion de prompt metaa drent in d'ona dumanda giüdezzia. In tücc düi i cas, la bujia drissada a ona machina ades l'è tratada cumm bujia drissada a ona istitüzzion. L'è ona buona nüvela: né la sigurezza aplicativa né la prucedura giüdezzia ghe serviss on regim d'eccezzion per l'IA — dumà n'aplicazzion rigorosa di principi ch'esisten giamò. La lüsson de la setemana per i lab la l'è manch cunfurtevel: i sò prodott hinn deventaa, in poch mes, di infrastruttüre critich, cun la süperfiss d'atach che la va inscì.