Contenus illégaux et réseaux décentralisés

Nous avons actuellement des problèmes de contenu incitant à la haine et la violence sur diaspora*. Comme nous avons été contactés par de nombreux journalistes, je mets ici une de mes réponses qui je pense peut intéresser beaucoup de monde.

D’abord, une rapide explication technique :

diaspora* fonctionne de la même manière que l’e-mail. Il faut donc distinguer trois rôles : les personnes qui créent le logiciel (par exemple, ceux qui imaginent le protocole SMTP et implémentent le logiciel pour faire fonctionner un serveur de courriel), ceux qui installent et maintiennent le logiciel en tant que service (dans le cas de l’e-mail, Google avec Gmail par exemple) et ceux qui l’utilisent, quelqu’un possédant une adresse e-mail. Pour diaspora*, ces trois rôles sont séparés de la même manière entre les gens qui participent au code, ceux qui hébergent le logiciel sur leur serveur (alors appelé pod), et ceux qui l’utilisent. Je fais partie des trois catégories, j’écris du code et j’héberge le logiciel sur les serveurs https://diaspora-fr.org et https://framasphere.org dans le cadre de l’association Framasoft.

Du point de vue légal, l’administrateur d’un pod est responsable de son contenu, ce ne sont pas les gens qui écrivent le logiciel et gèrent le projet (la fondation diaspora*) qui en sont responsables. Cela reviendrait à jeter la pierre sur l’inventeur du téléphone car il a servi à échanger des propos illégaux.

Je tiens à rappeler deux points majeurs :

  • Il est possible pour les utilisateurs de diaspora* de signaler à l’administrateur un contenu qui leur semble incorrect par un simple clic. C’est ensuite à l’administrateur, étant responsable, de choisir s’il supprime ou non le contenu. La modération est donc techniquement possible et était en place dans le logiciel bien avant que ce problème récent de contenu incitant à la haine n’apparaisse.
  • L’objectif premier de diaspora* est de fournir une alternative aux réseaux sociaux actuels qui sont gérés par des entreprises non respectueuses des données de leurs utilisateurs. Il s’agit donc de permettre aux gens d’échanger des messages et images tout en en gardant le contrôle. diaspora* est un réseau qui relie chaque personne ayant choisi d’héberger ses données plutôt que de les confier à des entreprises américaines. En conséquence, il n’y a pas de point d’entrée central, et si un des nœuds du réseau souhaite héberger du contenu illégal, la fondation ne peut rien y faire et c’est aux autorités d’intervenir auprès de l’administrateur. Pour les autorités, modérer (ou censurer) du contenu est donc plus difficile car elles doivent contacter chaque administrateur réfractaire, mais techniquement, cela est réalisable.

Concernant notre problème actuel, la communauté (et j’implique dans ce mot à la fois les contributeurs au code source, les administrateurs et les utilisateurs) a réagi vivement et efficacement pour signaler à tous les administrateurs les contenus suspects. Ceux-ci ont à ma connaissance à chaque fois choisi de supprimer le contenu illégal, il n’y a donc pas eu besoin pour les autorités d’intervenir.

Ci-dessous, les questions d’un des journalistes :

J’ai l’impression que la plupart des comptes de l’EI ont été supprimés : en reste-t-il encore ?

Lorsqu’un compte dont le contenu est suspect est repéré, il est signalé à l’administrateur du serveur. Celui-ci peut choisir de le supprimer ou non, selon s’il décide de ne pas prendre de risques ou d’attendre l’injonction d’un juge. Actuellement, tous les administrateurs que je connais ont choisi de supprimer immédiatement le contenu.

Combien ? Combien ont été supprimés ? Combien y en a-t-il eu au maximum ?
Y a-t-il quelque part une listes des comptes restants / supprimés ?

Dès que nous avons repéré le problème, nous avons établi une liste des comptes à surveiller et signaler aux administrateurs. Cette liste compte actuellement plus de 150 entrées, dont la grande majorité a déjà été supprimée. Nous avons choisi de ne pas rendre cette liste publique actuellement.

Est-ce qu’il y avait des contenus sur des nœuds gérés par des Français ? Sur le votre ?

Oui, sur https://diaspora-fr.org il y avait environ 25 comptes suspects.

Est-ce qu’il y a eu des débats dans la communauté de Diaspora* sur le thème de la censure ?

Évidemment ! Une des idées phares derrière le projet est la liberté d’expression. Certains utilisateurs de la communauté ont protesté contre la suppression de comptes qui n’avaient pas été officiellement déclarés comme illégaux par un juge. Le sujet a semblé trop grave aux administrateurs pour essayer de savoir ce qui était réellement de l’incitation au meurtre et ce qui n’était qu’une description biaisée et haineuse de la situation sur place et à ma connaissance tous ont décidé de supprimer l’intégralité du contenu. Il était d’autant plus difficile de faire le tri qu’aucun de nous ne parle arabe et qu’il fallait agir rapidement.

Comment la communauté a vécu cette arrivée de l’EI et la pression pour supprimer les contenus ?

Je pense que nous avons réagi efficacement et de manière responsable. Nous nous sommes immédiatement réunis et avons mis en place les moyens techniques pour rester dans la légalité et éviter que les appels à la haine ne se propagent. Nous avons expliqué à la presse la situation de manière transparente (voir les communiqués sur le site officiel : https://blog.diasporafoundation.org). Je pense que nous pouvons être satisfaits de notre réaction.

Est-ce que la suppression des contenus n’est pas contradictoire avec la philosophie et la vocation de Diaspora* ?

Comme dit précédemment, le premier but de diaspora* est d’abord d’éviter le contrôle et la centralisation des données par les grandes firmes américaines. Le fait que le réseau soit difficilement censurable est une conséquence positive mais pas l’objectif initial : le logiciel n’est pas conçu pour permettre l’anonymat total comme c’est le but de Tor par exemple. Il est possible de ne pas utiliser son vrai nom, mais techniquement, l’utilisateur n’est pas protégé par diaspora*. Dans tous les cas, nous ne faisons que créer un outil installable par tous. Il n’est pas de notre ressort de juger ensuite de la manière dont il est utilisé. Le fait qu’il soit plus difficilement contrôlable par les gouvernements est un fait. Cela peut être un avantage si l’on considère que le peuple est opprimé et a besoin de communiquer pour se révolter, je pense par exemple aux Printemps arabes, ou un inconvénient si l’on considère que c’est le gouvernement qui est juste et que l’on doit empêcher les fauteurs de trouble de s’organiser, comme c’est le cas ici pour les appels aux meurtres. Chacun doit se faire sa propre opinion, mais le tort ne peut être attribué à l’outil. Diaspora* n’est qu’une évolution dans l’utilisation d’internet, après l’e-mail, lui même précédé du fax et du téléphone, précédés par le courrier…

Voilà, ceux qui ont suivi l’histoire de loin en savent certainement un peu plus à présent.

{8} Thoughts on “Contenus illégaux et réseaux décentralisés

  1. Le but est donc d’éviter la centralisation des données, par contre diaspora ne protège pas contre le contrôle, la preuve en action…

    Après est-ce vraiment un problème ? Notamment dans ce cas de figure là, le contrôle peut être considéré comme utile.

    Dans tous les cas, chacun est responsable de ses dires, diaspora n’étant qu’un outils et non une personne physique ou morale.

  2. je viens d’arriver sur diapsora*, en raison justement de cette affaire. 2 remarques

    « et si un des nœuds du réseau souhaite héberger du contenu illégal » – je trouve que l’expression est hâtive. la légalité d’un contenu ne peut s’apprécier qu’en fonction du pays dans lequel il se situe et de sa loi. il ne peut a mon sens être question de « contenu illégal » a priori et de façon hors sol

    « Il était d’autant plus difficile de faire le tri qu’aucun de nous ne parlons arabe et qu’il fallait agir rapidement. » – phrase malheureuse selon moi qui prête le flan à l’accusation de censure aveugle : on a vite supprimé des comptes, même si on ne savait pas de quoi ils parlaient.

    cela posé, je conçois que le problème est compliqué… (bloQuer est un art difficile)

    • « Il était d’autant plus difficile de faire le tri qu’aucun de nous ne parlons arabe et qu’il fallait agir rapidement. » – phrase malheureuse selon moi qui prête le flan à l’accusation de censure aveugle : on a vite supprimé des comptes, même si on ne savait pas de quoi ils parlaient.

      Le problème est que, en tant qu’hébergeur du pod, tu es responsable de ce que tu publies. En d’autres termes, je ne conseille pas d’héberger un contenu sur lequel tu ne peux juger de la légalité (du moins la loi à laquelle tu es soumis).

      TL:DR : Avec du bon sens, si tu ne parles pas arabes/japonais/klingon, il est donc conseillé de ne pas héberger un compte dans cette langue. Je vous renvoie au choix de la modération a priori/a posterio, sur les commentaires d’un blog par exemple, pour amorcer la réflexion sur le sujet.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>