Mardi, l’entreprise OpenAI, qui est derrière ChatGPT, a lancé une nouvelle version de son intelligence artificielle (IA): un modèle spécialement fait pour les ados. Il s’agit d’une version plus limitée, qui arrive au moment où le robot est dans l’eau chaude parce qu’il a dit des choses inappropriées à certains jeunes. Je t’explique.

Un nouvel outil

À quoi ressemble le ChatGPT pour ados?

Cette plateforme a été créée pour les jeunes de 13 à 17 ans. Selon OpenAI, il s’agit d’une version plus sécuritaire, conçue pour aviser les parents si un jeune tient des propos dangereux, violents ou inquiétants. En plus, le compte de l’ado est lié à celui de ses parents.

C’est aussi un modèle qui donne moins l’impression qu’on parle… à un humain qui ressent des émotions! Contrairement au modèle normal, ChatGPT pour ado n’a pas de voix et ne peut pas «parler», ou nous répondre à voix haute. La plateforme impose des temps d’arrêts: impossible de l’utiliser pendant la nuit. Elle a aussi banni les discussions romantiques.

C’est aussi une aide aux devoirs. OpenAi assure que son programme est conçu pour ne pas donner les réponses.

Mais pourquoi toutes ces précautions?

Dernièrement, ChatGPT a été dénoncé à plusieurs reprises. La raison: le robot conversationnel aurait tenu des propos dangereux et inappropriés avec de jeunes utilisateurs. 

Malheureusement, en avril, un ado de 16 ans a décidé de se suicider. Selon ses parents, ça faisait plusieurs mois qu’il parlait de mettre fin à ses jours avec ChatGPT. L’IA lui aurait donné des conseils très dangereux. Maintenant, ses parents poursuivent OpenAI en justice. Ils reprochent à la compagnie d’avoir créé une intelligence artificielle sans barrières de sécurité pour les jeunes. Par exemple, l’intelligence artificielle aurait pu envoyer un message aux parents pour les prévenir que l’adolescent se faisait du mal.

Plusieurs autres procès similaires sont en cours. Et c’est en réponse à tous ces scandales qu’OpenAI a créé sa version pour les jeunes.

Une IA, ce n’est pas une amie!

On sait que l’intelligence artificielle est utilisée par tout le monde, et ça inclut les ados! On sait aussi que beaucoup de gens s’en servent pour se confier quand ils sont tristes. Elle peut donner des réponses rassurantes et encourageantes. Mais ça devient dangereux pour l’utilisateur quand cet échange remplace ceux qu’on aurait avec quelqu’un de confiance. 

Attention! L'intelligence artificielle a été conçue pour ne pas contredire les utilisateurs. Et ça, ça peut être risqué, car elle peut encourager les idées négatives et contribuer à la spirale d’anxiété!

Utiliser l’IA avec toute sa tête!

Si une réponse de l’IA te bouleverse, t’inquiète ou influence de manière importante une décision que tu veux prendre, n’hésite pas à en parler avec quelqu’un de confiance. Partager ce que l’IA t’a dit peut être une bonne façon de vérifier l’information et d’obtenir un autre point de vue.  

Et toi, as-tu déjà discuté avec un IA? Comment t’es-tu senti?