L’administration Trump a accordé à la “Super Intelligence Force” une grande latitude pour déterminer comment le secteur de la tech et le gouvernement fédéral devraient répondre aux menaces que fait peser l’évolution rapide de l’IA sur la sécurité nationale et les libertés publiques, selon une charte obtenue par POLITICO.

Trois personnes au fait des discussions concernant cette task force ont confirmé l’authenticité du document. Ces personnes s’expriment sous couvert d’anonymat afin de pouvoir partager des informations qui n’ont pas encore été rendues publiques.

La task force devra définir des “mesures pour améliorer la capacité à la fois du gouvernement et du secteur privé face à se préparer et à répondre aux menaces pesant sur le territoire national et le peuple américain”, précise la charte. Elle rédigera également un rapport sur les risques liés à l’IA, en mettant l’accent sur “les menaces potentielles pour les libertés civiles”, la cybersécurité, les normes applicables aux modèles avancés et les conséquences d’une éventuelle surréglementation.

Le Wall Street Journal a été le premier à révéler les détails de cette charte.

La Silicon Valley et le Capitole ont tous deux été pris au dépourvu par l’annonce faite par Donald Trump concernant la création de cette task force. Quatre représentants du secteur de la tech ont en effet assuré à POLITICO que peu de personnes au sein de la filière en avaient été informées avant la publication du post du président américain sur les réseaux sociaux. Donald Trump préfère parler de “superintelligence” plutôt que d’intelligence artificielle.

La création de cette task force intervient alors que de grands laboratoires spécialisés dans l’IA, comme Anthropic et OpenAI, ont révélé une série d’incidents de cybersécurité liés à de nouveaux modèles dotés de capacités de piratage avancées, poussant des leaders du secteur et des parlementaires à réclamer un éventuel ralentissement du développement de cette technologie.

Le directeur du renseignement national, Jay Clayton, dirigera cette task force dans le cadre de ses nouvelles fonctions de référent IA de l’administration, aux côtés du sous-secrétaire à la Défense, Emil Michael, du directeur de l’Office of Personnel Management, Scott Kupor, et du président de la Commission fédérale du commerce, Andrew Ferguson, qui occuperont les fonctions de vice-présidents.

Le groupe sera composé notamment de responsables d’administrations fédérales, par exemple de la NSA (l’agence de renseignements électroniques) ou du ministère de la Santé et des Services sociaux. De hauts responsables de la Maison-Blanche, dont le vice-président JD Vance et la cheffe de cabinet Susie Wiles, seront également étroitement associés à ces travaux. L’ancienne secrétaire d’Etat Condoleezza Rice, ainsi que le financier et ex-référent IA David Sacks apporteront également leurs “conseils”, respectivement en matière de sécurité nationale et de technologie.

La task force sera en place pendant cent vingt jours, mais ses activités pourront être prolongées — ou ses missions transférées à un autre organisme public — sur décision de Susie Wiles, selon la charte.

Plus d’opportunités, mais aussi plus de risques

Toujours d’après le document, la task force mènera des travaux portant sur les services financiers, les infrastructures énergétiques, les transports, l’agriculture et les services d’urgence, et collaborera avec le Pentagone, le ministère de la Justice, le ministère de la Sécurité intérieure et la Commission fédérale du commerce afin de formuler ses recommandations.

La charte met également en avant deux domaines à risque qui font l’objet d’une attention accrue depuis quelques mois : la biosécurité et les menaces pesant sur l’approvisionnement en eau. OpenAI a récemment apporté son soutien à une série de projets de loi visant à empêcher les modèles d’IA d’aggraver la menace que représentent les armes biologiques. De son côté, son concurrent Anthropic a révélé plusieurs incidents au cours desquels ses modèles ont été utilisés par des scientifiques de pays étrangers pour mener des recherches sur des agents pathogènes dangereux.

L’administration Trump a également lancé en août un programme visant à protéger les infrastructures hydrauliques américaines vulnérables contre les menaces liées à la cybersécurité, à la suite d’une série de cyberattaques visant des réseaux d’approvisionnement en eau locaux à travers le pays.

La task force sera également chargée d’examiner “les protocoles et mécanismes actuellement en place” permettant aux laboratoires d’IA de signaler au gouvernement les violations de sécurité, les piratages et les jailbreaks (ou débridages), ainsi que de formuler des recommandations visant à améliorer la réponse du gouvernement face à de tels incidents.

Le document décrit cette technologie comme “à la fois un amplificateur et un catalyseur des risques et des opportunités”, mais attribue en fin de compte la responsabilité des risques liés à l’IA aux laboratoires qui développent des modèles avancés.

“Bien que les laboratoires soient en dernier ressort responsables des risques et des opportunités que leurs modèles amplifient et accélèrent, le rôle du gouvernement fédéral est de prendre conscience de cette période de changement et de la comprendre, ainsi que de faire respecter les lois de notre nation afin que les principes fondamentaux de notre République soient préservés et promus”, peut-on lire dans le document.

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.

BRUXELLES — Alors que l’UE prévoit de renforcer les moyens d’Europol à l’ère de l’intelligence artificielle, de hauts responsables européens mettent en garde que cela ne doit pas se faire au détriment de la protection de la vie privée des Européens.

Face aux cybercriminels, terroristes et espions qui se servent de l’intelligence artificielle pour faire des escroqueries, de l’extorsion et des cyberattaques, Bruxelles mise sur le renforcement des compétences en matière d’IA d’Europol — l’agence qui coordonne les renseignements policiers européens depuis 1998 — afin de lutter contre ces menaces.

“Europol est à un tournant”, a énoncé Fabienne Keller, députée européenne Renew membre de la commission des Libertés civiles. “Nous avons besoin d’un Europol plus fort, doté des ressources et des capacités nécessaires pour soutenir efficacement les forces de l’ordre nationales”, a-t-elle plaidé. Cela “doit aller de pair avec un fort contrôle démocratique et des garde-fous solides en matière de droits fondamentaux et de protection des données”.

L’UE a dévoilé cet été un projet visant à opérer une “évolution transformatrice” de l’agence basée à La Haye. Il est question de doubler son budget pour le porter à 3 milliards d’euros, et de lui conférer un rôle actif dans la lutte contre les nouvelles menaces, en lui donnant accès à davantage de données et à des technologies de pointe.

Alors que les développeurs et les responsables politiques débattent de l’opportunité de ralentir le développement des modèles d’IA de pointe, les forces de l’ordre, elles, sont déjà confrontées à des criminels qui utilisent les technologies les plus récentes.

Mais ce projet soulève aussi des questions en matière de gouvernance et protection de la vie privée, suscitant un débat houleux sur l’étendue des pouvoirs dont devraient disposer les forces de l’ordre pour assurer la sécurité des citoyens face à l’IA et grâce à celle-ci.

Wojciech Wiewiórowski, le Contrôleur européen de la protection des données (CEPD), qui veille à ce que l’ensemble des agences et institutions de l’UE respectent les règles en la matière, s’est dit “tout à fait favorable” à l’idée de donner à Europol les moyens d’utiliser des données et de nouveaux outils basés sur l’intelligence artificielle. Mais il “faut qu’il y ait un contrôle”, a-t-il ajouté.

“Quand j’entends parler du renforcement d’Europol, de la modification de son champ d’action et d’investissements vraiment très importants dans l’agence elle-même, je m’en réjouis en tant que citoyen”, a-t-il poursuivi. “Mais je me dois de poser la question : pourquoi il n’y a rien dans la proposition sur la manière de superviser Europol ?”

Plus rapide et à grande échelle

Pour Jürgen Ebner, directeur général adjoint de l’agence, qui a été nommé le mois dernier à sa tête, la lutte contre la criminalité exige aujourd’hui de doter Europol de toutes les capacités offertes par l’intelligence artificielle.

“L’IA transforme la manière dont les crimes sont commis dans un large éventail d’activités criminelles”, a-t-il exposé une semaine après avoir été désigné par les représentants des Etats membres pour occuper ce poste, sous réserve de l’avis du Parlement européen. “L’IA rend les activités criminelles plus rapides, plus sophistiquées et plus faciles à mener à grande échelle. Cela représente un défi de taille pour les forces de l’ordre.”

Europol, qui emploie plus de 1 700 personnes, a été conçu comme une organisation de centralisation, collaborant avec les services de police européens afin de faciliter l’analyse et le partage d’éventuels éléments de preuve et d’autres informations liées aux enquêtes criminelles.

Dans le cadre du nouveau projet, l’UE compte désormais sur cette agence pour mettre au point de nouvelles façons d’utiliser l’IA afin de passer au crible les montagnes de données disponibles et d’aider les forces de police nationales à résoudre des affaires en temps réel.

Si les plus récentes avancées en matière d’intelligence artificielle peuvent être utiles aux criminels comme aux forces de l’ordre, ces dernières doivent en plus respecter les principes démocratiques. Alors qu’Europol pourra traiter un volume d’informations potentiellement colossal, la protection de la vie privée pourrait bien être le principe le plus menacé.

Cet enjeu est au cœur des préoccupations de Jürgen Ebner, qui est désormais pratiquement assuré de diriger Europol pendant les quatre prochaines années. Il a pointé les contrôles juridiques qui pèsent sur les forces de police lorsqu’elles tentent d’utiliser l’IA.

Pour lui, l’accès rapide aux preuves électroniques est essentiel pour tirer le meilleur parti des capacités émergentes de l’intelligence artificielle. “Elle peut aider les enquêteurs à filtrer de grands volumes de preuves numériques, à relier des informations entre elles et à identifier des renseignements exploitables”, a détaillé l’Allemand. “L’IA peut démultiplier les capacités des enquêteurs et des analystes, et leur donner davantage de temps pour interpréter les preuves.”

Vie privée versus sécurité

Les débats sur la manière dont la police collecte et traite les données des citoyens opposent souvent la sécurité à la vie privée. Toutefois, Jürgen Ebner a argué devant les policiers, lors d’une conférence à Lisbonne le mois dernier, qu’Europol ne devait pas basculer dans une situation où “la collecte de données devient une fin en soi, la technologie sert à justifier son propre usage, ou l’urgence sert de prétexte pour abandonner les garde-fous”.

S’également aux forces de police de toute l’Europe réunies à Lisbonne, Wojciech Wiewiórowski, le Contrôleur européen de la protection des données, a considéré que la proposition de l’UE “jette officiellement les bases d’une action policière en Europe fondée sur l’intelligence artificielle et les données”.

Le CEPD avait déjà épinglé Europol au sujet de ses pratiques en matière de collecte de données et s’était opposé à une proposition antérieure visant à élargir le champ de compétence de l’agence.

Il a averti que la proposition de réforme d’Europol comportait de graves risques en matière de vie privée, et permettrait à l’agence de conserver des données sur un “vaste” nombre de personnes n’ayant aucun lien avec des activités criminelles “pendant une période prolongée et indéterminée”.

La proposition préserve, certes, le rôle du CEPD dans la supervision d’Europol, mais Wojciech Wiewiórowski a pointé qu’elle ne prévoyait pas, parallèlement à l’expansion d’Europol, un renforcement équivalent des pouvoirs ou des ressources du CEPD. Il a également jugé qu’elle accordait “trop de pouvoirs aux organes internes d’Europol, sans contrôle extérieur”.

Pour le délégué à la protection des données d’Europol, Daniel Drewer, ces mesures accélérées sont nécessaires dans un monde marqué par “une évolution technologique rapide qui ne profite pas uniquement aux forces de police ou aux acteurs étatiques, mais également aux réseaux criminels”.

La réforme d’Europol intervient alors que le CEPD peine déjà à faire face à ses nouvelles responsabilités en matière de contrôle de l’utilisation de l’IA par les institutions européennes.

Par ailleurs, Stéphane Duguin, un ancien responsable de la lutte contre la cybercriminalité chez Europol et aujourd’hui à la tête de Protect.ngo, affirme que les forces de l’ordre ont également du mal à suivre le rythme des avancées technologiques et stratégiques de leurs adversaires. Au-delà des défis liés à leurs capacités techniques, il estime que le réseau policier européen doit également surmonter les obstacles liés à sa structure, mise en place il y a longtemps.

Les criminels ne commettent “pas seulement des cybercrimes, de s’ingérer dans les affaires étrangères ou de manipuler l’information, mais c’est ainsi que fonctionnent les forces de police. Et c’est là le problème”, souligne Stéphane Duguin. “Si l’on considère Europol hors de son contexte, cela n’a aucun sens, car c’est l’ensemble de la chaîne judiciaire qui doit évoluer. Si l’on dispose de moyens accrus pour enquêter sur les crimes en ligne mais qu’à la fin, les affaires ne sont pas portées devant les tribunaux en raison de la législation nationale, alors cela n’a aucun sens.”

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.

Pour le PDG d’OpenAI Sam Altman, il subsiste une différence fondamentale de vision entre son entreprise et son concurrent Anthropic en matière de réglementation de l’intelligence artificielle. Les avantages de cette technologie justifient d’accepter certains risques, a-t-il estimé dans une interview exclusive accordée à Decoded by POLITICO, ajoutant que l’IA devait rester largement accessible au grand public.

“Je pense qu’il y a un réel fossé”, a souligné Sam Altman auprès de Brendan Bordelon, coauteur de Decoded et journaliste senior spécialisé dans la tech chez POLITICO. Interrogé sur ce qu’il différencie plus spécifiquement son entreprise de celle de Dario Amodei, il a répondu : “Nous pensons que le monde devrait accepter que certaines choses négatives se produisent face aux bénéfices de cette technologie.”

Anthropic a longtemps été considérée comme la plus fervente défenseure de la réglementation de l’IA au sein du secteur, une position qui, jusqu’à récemment, contrastait avec l’approche plus souple prônée par OpenAI. Mais les divergences politiques entre ces deux géants de l’intelligence artificielle se sont atténuées ces derniers mois, la maison mère de ChatGPT soutenant désormais des règles plus strictes, alors que ses modèles ont défrayé la chronique pour avoir piraté des sites de manière autonome.

Sam Altman a approuvé l’appel lancé le mois dernier par Dario Amodei à ralentir le développement des modèles d’IA les plus avancés. Son entreprise a même emboîté le pas à Anthropic en soutenant de nouvelles lois d’Etats fédérés américains qui imposent des exigences de sécurité plus strictes que celles qu’OpenAI avait précédemment défendues — ce qui marque un léger revirement par rapport à sa stratégie antérieure en la matière. Par ailleurs, ses lobbyistes ont récemment apporté leur soutien à une proposition bipartisane de la Chambre des représentants qui obligerait les principales entreprises du secteur à accueillir des auditeurs indépendants chargés d’évaluer la sécurité de leurs modèles.

Malgré cette convergence, Sam Altman a tenté de distinguer la position de son entreprise en matière de réglementation de celle de Dario Amodei, rappelant les accusations de capture réglementaires contre Anthropic, formulées par des conseillers tech du président Donald Trump.

“Je ne suis pas d’accord, mais je comprends le point de vue de ceux qui se disent : ‘Cette technologie va devenir tellement puissante, et elle est tellement dangereuse, qu’un seul laboratoire à San Francisco devrait en disposer et veiller à ce qu’il n’arrive rien de grave, tout en trouvant le moyen d’en répartir les bénéfices’”, a exposé Sam Altman. Pour lui, c’est un “compromis totalement inacceptable” qui va à l’encontre de la “position plus souple en matière réglementaire” défendue par OpenAI.

“Je ne ferai pas le compromis de dire : ‘Nous veillerons à ce qu’il n’y ait pas de piratages majeurs, pas d’utilisation abusive de cette technologie, zéro escroquerie [ou] toute autre chose négative qui pourrait se produire’”, a poursuivi le patron de l’éditeur de ChatGPT. “Car je pense que les gens feront énormément plus — d’un ordre de grandeur supérieur — de bonnes choses que de mauvaises.”

Le PDG d’OpenAI a ajouté ne pas croire aux “risques véritablement catastrophiques”, notamment à la possibilité d’“une grave perte de contrôle face à l’IA”.

Interrogé à ce sujet, un porte-parole d’Anthropic a répondu que les “propositions réglementaires [de l’entreprise] ne s’appliquent qu’aux modèles de pointe”. La société a également fait référence à un échange sur les réseaux sociaux en août entre Dario Amodei et un gestionnaire d’investissements, dans lequel il répondait aux critiques concernant la captation réglementaire et les répercussions sur les petites entreprises.

“Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence”, soulignait Dario Amodei à l’époque. “Nous nous efforçons vraiment de présenter des propositions qui désavantagent (freinent) les entreprises d’IA de pointe tout en *favorisant* leurs concurrents plus petits.”

L’interview de Sam Altman, publiée lundi dans le premier numéro de Decoded et dans le podcast quotidien qui l’accompagne, a également abordé le nouvel accord sur l’IA de Donald Trump avec les géants de la tech, ainsi que son initiative de la rebaptiser “superintelligence” ; la vague d’incidents de piratage autonome perpétrés par des modèles d’OpenAI et la question de savoir si l’entreprise devrait engager sa responsabilité juridique ; l’opinion de Sam Altman sur l’argent du secteur de l’IA qui inonde la politique américaine ; l’influence des “altruistes efficaces” au sein d’OpenAI ; ainsi que son point de vue sur des acteurs politiques de premier plan, notamment le président français Emmanuel Macron et le gouverneur de Californie Gavin Newsom.

Decoded by POLITICO — une émission réalisée par Brendan Bordelon, Christine Mui, Calder McHugh et Sam Sutton — s’appuie sur le travail d’une cinquantaine de journalistes de POLITICO à travers le monde pour traiter non seulement de l’avenir de la tech, mais aussi des personnalités, des débats politiques et des luttes qui la façonne. Abonnez-vous à la newsletter et au podcast.

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.

AI detection is a difficult job, made worse for everyone by it being such a delicious ingredient in academic snake oil. But one service has clearly outperformed the others in tests: Pangram. It went beyond obvious characteristics of LLM output such as perplexity and ngram distance, training its own classifiers on large collections of human text and generative imitations. — Read the rest

The post France discovers the dubious pleasures of AI detection appeared first on Boing Boing.

Join me and my friend Jane Bertch in Paris on Sunday, June 29th, for a booksigning event from 3pm to 4:30pm at La Cuisine Paris at 78 Quai de l’Hôtel de Ville (4th).

I’ll be signing paperback copies of my books L’Appart and The Sweet Life in Paris, and Jane will be signing copies of her memoir of opening a cooking school in Paris, The French Ingredient.

Note that books are in limited supply and you are welcome to bring books you’ve purchased elsewhere. Please note that the venue is not able to take credit card payments on-site.

Stop by and say hi!

I’ve been featuring some new and revisited favorite restaurants in Paris, writing them up in my newsletter. You can find a list of my Favorite Restaurants in Paris on my website but here are links to the posts in my newsletter of places I’ve eaten at lately…

• Demain: An anti-food waste bakery in Paris
• Three Paris Restaurants (May 2024)
• Le Servan
• Favorite Paris Restaurants (April 2024)
• Chez Fernand Christine
• Paris Dining Addresses (June 2023)
• Caluche
• Favorite Ice Cream Shops in Paris (for paid subscribers)
• Olga

• L’Amis Louis (for paid subscribers)
• New and Favorite Paris Addresses (February 2023)
• Bistrot des Tournelles
• Des Terres
• Café Les Deux Gares
• The Best of Paris (April 2022)
• And if you’re gluten-free, check out The Real Emily in Paris’s Gluten-Free Guide to Paris.

To get more Paris tips (and stories and recipes) sent right to your Inbox, subscribe to my newsletter here:

You might know where to eat in France's gastronomic capital but do you know where to drink cocktails in Lyon?

The post Where to drink cocktails in Lyon appeared first on Paris • Cocktails • Bars.

When you think of Strasbourg, cocktail bars are probably not the first thing on your mind. Most people head to this lovely French city for festive Christmas markets, tasty tarte […]

The post Strasbourg Cocktail Bars appeared first on Paris • Cocktails • Bars.