Le gouverneur de Californie, Gavin Newsom, a promulgué une série de mesures destinées à protéger les jeunes de l’État. Ces textes encadrent d’une part les fonctionnalités potentiellement addictives des réseaux sociaux, d’autre part l’interaction des utilisateurs mineurs avec les chatbots d’entreprises d’intelligence artificielle. L’annonce intervient au lendemain de la signature de mesures créant un cadre plus large d’audit des entreprises d’IA au regard du droit californien.
Encadrement des chatbots et obligations d’audit
Les fabricants de chatbots devront imposer des limites de temps d’usage aux utilisateurs mineurs. Ils seront également tenus de mettre en place des ressources de santé mentale et des protocoles de sécurité lorsque qu’un mineur évoque des idées d’automutilation. Un autre volet prévoit une notification aux parents si un enfant désactive les paramètres de sécurité. Les entreprises d’IA devront en outre se soumettre à des audits indépendants de sécurité des enfants ainsi qu’à des évaluations annuelles des risques. Elles pourraient engager leur responsabilité juridique si ces obligations ne sont pas respectées.
Fonctionnalités « addictives » et accès des moins de 16 ans
La mesure la plus débattue concerne l’usage des réseaux sociaux par les adolescents. L’État interdit désormais aux plateformes de laisser les utilisateurs de moins de 16 ans accéder à des fonctionnalités considérées comme potentiellement addictives. La définition retenue dans le texte couvre un large éventail de capacités, de la lecture automatique des vidéos aux notifications en passant par les fils de contenu personnalisés par algorithme.
Contestations et enjeux de confidentialité
Des organisations critiques, dont l’Electronic Frontier Foundation, estiment que cette mesure équivaut à une interdiction de fait des réseaux sociaux pour les adolescents. Selon Rindala Alajaji, directrice associée des affaires étatiques de l’organisation, priver les mineurs d’accès aux espaces numériques ou retirer les outils de base nécessaires pour s’y orienter ne rendra pas les jeunes plus sûrs ou plus sains à l’ère de l’IA. L’organisation ajoute que l’application de cette politique contraindrait tous les utilisateurs des réseaux sociaux à communiquer davantage d’informations personnelles pour prouver leur âge, avec des risques accrus pour la vie privée. Cet argument rejoint ceux avancés de longue date contre d’autres lois de vérification de l’âge.
Autres mesures adoptées
D’autres textes signés poursuivent des objectifs comparables de protection des jeunes face à des applications technologiques à risque. L’un élargit la définition de l’exploitation sexuelle des enfants pour y inclure les images générées ou modifiées numériquement par IA. Un autre renforce les protections contre la publicité ciblée et encadre l’utilisation par les systèmes d’IA de données concernant les élèves de la maternelle au lycée (K-12).
Ce qui est confirmé et ce qui reste inconnu
Les mesures signées, leur contenu et les critiques formulées à leur encontre sont établis. En revanche, les modalités pratiques de mise en œuvre, les échéances d’application, les sanctions précises et les effets concrets sur l’usage des plateformes ne sont pas détaillés dans les informations disponibles.