OpenAI a annoncé travailler sur un système de prédiction d’âge et de nouvelles options de contrôle parental pour renforcer la sécurité des adolescents utilisant ChatGPT. Cette initiative place la société au cœur d’un débat plus large : comment garantir la protection des mineurs sur Internet sans compromettre la vie privée ni la liberté numérique des utilisateurs.

La proposition d’OpenAI : sécurité avant tout, au détriment de la vie privée

Le principe est clair : l’expérience d’un utilisateur de 15 ans doit différer de celle d’un adulte. Le système en cours de développement visera à détecter automatiquement si une personne a plus ou moins de 18 ans, en appliquant des règles spécifiques pour les adolescents.

• Pour les mineurs : les contenus à caractère sexuel explicite et les sujets liés à l’automutilation seront bloqués ; en situation critique, il pourra être procédé à une contactation des parents ou, en dernier recours, des autorités.
• Pour les adultes : l’expérience complète sera maintenue, mais si la confiance en l’âge n’est pas établie, la version restreinte sera appliquée jusqu’à ce que l’utilisateur puisse vérifier son âge.

La société reconnaît que même les technologies les plus avancées peuvent échouer, c’est pourquoi elle privilégie un principe de « prudence par défaut », favorisant la sécurité des jeunes face à la vie privée ou à la liberté des adultes.

Ce n’est pas un cas isolé : une tendance mondiale à la vérification d’âge

OpenAI n’est pas la seule entreprise à miser sur des systèmes de contrôle d’âge. Ces dernières années, gouvernements et plateformes ont promu des mesures similaires :

• Réseaux sociaux et jeux vidéo : aux États-Unis, le débat autour de la „Kids Online Safety Act” (KOSA) recommande que des plateformes comme TikTok ou Instagram vérifient activement l’âge de leurs utilisateurs. En Europe, la Loi sur les Services Numériques (DSA) impose déjà des mesures renforcées pour protéger les mineurs des contenus nocifs.
• Plateformes vidéo et de streaming : YouTube et Twitch demandent la date de naissance, et parfois des documents d’identité, pour accéder à certains contenus.
• Sites pour adultes : la France et l’Allemagne ont adopté des lois obligeant à une vérification stricte de l’âge, via cartes bancaires ou systèmes biométriques.

Les risques liés à la vérification d’âge en ligne

Bien que l’objectif soit la protection, des experts en vie privée et libertés numériques alertent sur les risques importants que ces systèmes pourraient engendrer :

1. Atteinte à la vie privée : la demande de documents d’identité ou la collecte de données de navigation peut entraîner la fuite de données sensibles ou leur exposition en cas de faille de sécurité.
2. Faux positifs ou négatifs : un système qui confond un adulte avec un mineur pourrait limiter la liberté numérique de ce dernier, ou à l’inverse, exposer un jeune à des contenus inappropriés.
3. Perte de confiance : faire appel aux parents ou aux autorités dans des situations difficiles peut sauver des vies mais aussi créer de la méfiance chez les adolescents qui pourraient cesser d’utiliser la plateforme de peur d’être surveillés.
4. Normalisation de la surveillance : si la prédiction d’âge devient un standard, cela pourrait mener à un écosystème numérique où chaque utilisateur doit prouver son identité avant d’interagir.

Entre protection et autonomie : un dilemme sans solution simple

Le débat dépasse la simple initiative d’OpenAI. Il s’inscrit dans une réflexion sociétale :

• Faut-il privilégier la sécurité des adolescents, même si cela implique une réduction de la vie privée pour tous ?
• Est-il proportionné d’impliquer les autorités dans des situations à risque détectées par une IA ?
• Jusqu’où peut aller le contrôle parental sans porter atteinte à l’autonomie numérique des jeunes responsables de leur vie en ligne ?

Il n’existe pas de consensus mondial. Certains pays optent pour des réglementations strictes obligeant les entreprises à vérifier l’âge, tandis que d’autres craignent qu’une telle surveillance ne limite la liberté d’Internet et ne le rende trop contrôlé.

Conclusion

La démarche d’OpenAI, visant à prévoir l’âge et à instaurer des contrôles parentaux, reflète une tendance accrue dans la régulation technologique : protéger les mineurs à tout prix. Mais elle soulève aussi une question cruciale : comment trouver un équilibre entre sécurité, vie privée et liberté dans l’ère de l’intelligence artificielle et des plateformes mondiales ?

Le défi sera de concevoir un modèle qui protège efficacement les adolescents sans transformer Internet en un espace contrôlé où chacun doit prouver qui il est à chaque clic.

Questions fréquentes

Que signifie la prédiction d’âge sur ChatGPT ?
Un système qui tente de déterminer si un utilisateur est majeur ou mineur de 18 ans afin d’appliquer des politiques de contenu et de sécurité différenciées.

En quoi cela se compare-t-il à d’autres initiatives ?
Il s’apparente aux mesures dans les réseaux sociaux, plateformes vidéo et sites pour adultes, où la vérification active de l’âge via documents ou systèmes biométriques est courante.

Quels risques comporte la vérification d’âge en ligne ?
Fuite de données sensibles, erreurs d’identification, restrictions de liberté numérique, et normalisation de la surveillance de masse sur Internet.

Quel est le plus grand défi pour ces mesures ?
Trouver un équilibre entre la protection efficace des jeunes et le respect de la vie privée et de l’autonomie de tous les utilisateurs.

Source : Actualités en sécurité