Modération et deepfakes
9 minCe qu'on cherche à comprendre
5 minProblématique : derrière un écran, on dit parfois ce qu'on n'oserait jamais en face. Pourquoi le numérique facilite-t-il les violences, et l'IA est-elle plutôt une solution ou un nouveau danger ?
Comprendre et se protéger
23 minLa cyberviolence prend plusieurs formes : insultes et menaces, mise à l'écart, diffusion d'images sans accord, usurpation d'identité. Lorsqu'elle se répète contre une même personne, on parle de cyberharcèlement. En France, c'est un délit puni par la loi.
Le numérique aggrave ces violences par quatre effets : l'anonymat ressenti (on se croit caché), la viralité (un contenu touche vite beaucoup de monde), la permanence (ça reste en ligne) et l'effet de groupe (chacun se sent moins responsable). Les bons réflexes : ne pas répondre, conserver des preuves (captures), bloquer et signaler, et en parler à un adulte de confiance.
Le cadre légal du cyberharcèlement
En France, le cyberharcèlement est un délit, prévu par l'article 222-33-2-2 du code pénal : c'est le harcèlement moral (« propos ou comportements répétés » dégradant les conditions de vie), aggravé lorsqu'il est commis « par l'utilisation d'un service de communication au public en ligne ou par un support numérique ».
Les peines peuvent atteindre 2 ans de prison et 30 000 € d'amende, et 3 ans et 45 000 € lorsque la victime a moins de 15 ans. Le harcèlement scolaire a son propre article (art. 222-33-2-3, loi du 2 mars 2022). Un auteur mineur relève de la justice des mineurs.
Autrement dit : ce qui se passe « en ligne » n'est pas hors-la-loi — c'est même une circonstance qui aggrave la sanction.
Comprendre & se protéger
9 minCyberviolence, cyberharcèlement, droit
La cyberviolence regroupe les agressions commises en ligne. Sa répétition contre une même personne est le cyberharcèlement, un délit. Le numérique l'amplifie (anonymat, viralité, permanence, effet de groupe). Se protéger : préserver des preuves, bloquer, signaler, demander de l'aide.
Joue le modérateur IA
22 minPour chaque message, décide s'il est acceptable, limite ou haineux. Puis révèle l'avis du « modèle IA » : repère le cas où la machine se trompe.
La notion clé : les deux visages de l'IA
9 minBouclier… et angle mort
- Le bouclier : des IA de modération automatique détectent et retirent des contenus haineux à très grande échelle, bien plus vite que des humains.
- L'angle mort : ces IA se trompent (ironie, contexte, langues), l'algorithme peut amplifier les contenus clivants car ils font réagir, et les deepfakes (images ou vidéos truquées par IA) deviennent une nouvelle arme de harcèlement et de désinformation.
Tu es concerné·e, ou tu vois quelqu'un en souffrir ?
Tu n'as pas à gérer ça seul·e. Parles-en à un adulte de confiance (parent, professeur, CPE, infirmier·ère scolaire). Conserve des preuves, signale et bloque.
3018 — numéro national contre le cyberharcèlement (gratuit, anonyme).
3020 — contre le harcèlement scolaire · 119 — enfance en danger.
On fixe les acquis
9 min📝 Trace écrite — à recopier
La cyberviolence regroupe les agressions en ligne ; sa répétition est le cyberharcèlement, un délit. Le numérique l'aggrave (anonymat, viralité, permanence, effet de groupe). Réflexes : preuves, blocage, signalement, aide d'un adulte, 3018.
L'IA a deux visages : elle modère les contenus à grande échelle, mais elle se trompe (contexte, ironie), peut amplifier le pire, et permet les deepfakes. D'où la nécessité d'un regard critique.
Le quiz interactif de cette séance est disponible sur la plateforme 2I2D.
Vers l'évaluation
4 min🏠 Préparer l'évaluation & le projet
- Réviser les 5 traces écrites du thème (le « fil rouge IA »).
- Choisir un binôme et une idée pour le mini-projet (affiche, diaporama ou vidéo d'1 min) présenté à l'évaluation.