ERTZSCHEID OlivierMaître de conférences.

Université de Nantes.

IUT de La Roche sur Yon.

www.Affordance.info

Montaigu. 30 mars 2015

1

Du web ouvert aux jardins fermés(ou l’histoire des 10 algorithmes qui dominent le monde)

2

Petite mise en bouche pour commencer …

3

4

J’ai demandé à mes étudiants ce qui les angoissait le plus dans le futur d’internet et du web.Voici ce qu’ils m’ont tous répondu.

5

Je leur ai alors demandé ce qu’ils faisaient pour se débarrasser de cette angoisse. Voici ce qu’ils m’ont presque tous répondu.

6

7

Alors j’ai voulu leur expliquer :

• Comment on en était arrivé là.

• Pourquoi on vivait avec cette angoisse.

• Et ce qu’on pouvait faire pour s’en débarrasser.

8

Version courte : comment est-on passé

9

de là … à là …

Changement de dispositif d’accès

Changement de nature d’usages

Changement d’environnements de navigation

Version courte

10

Et qu’est-ce que ça change ?

Panoptique ?

Vous avez à peine moins. Il (le web) a à peine plus.

11

3 grandes questions

• « Comment faisons-nous pour connecter les 2/3 de la planète qui ne le sont pas encore ? »

• « Qui a le droit de collecter et d’utiliser nos données personnelles, dans quel but et avec quelles règles ? »

• « Comment arriver à créer une architecture / un réseau ouvert(e), qui fonctionnera sur n’importe quel terminal, plutôt que de revenir en arrière vers des environnements propriétaires ? »

• http://www.webat25.org/news/tbl-web25-welcome 12

Des réponses qui seront très différentes selon nos usages et nos choix

13

Comment est-on passé

de là … à là …

Du web ouvert au web fermé ??

• Si c’est vraiment ouvert : c’est l’anarchie (personne ne contrôle rien). • Si c’est vraiment fermé : c’est une dictature (il existe des lois liberticides)• Si ce n’est plus vraiment ouvert et pas vraiment fermé, alors c’est … compliqué• Aujourd’hui l’essentiel des sites que nous utilisons sont « fermés » mais proposent

une « entrée libre ».

14

Le web média

• Le web est un « média » parmi d’autres. • Il y a les médias ouverts, les médias « libres », les médias « alternatifs », et

les médias « classiques » ou « fermés ». • 1 des caractéristiques des médias « fermés » : un tout petit nombre de

personnes contrôlent ce qui s’y dit et essaient de nous influencer dans nos choix, nos habitudes de consommations (publicité) 15

(presque) Tout est contrôlé par quelques grands groupes

16

Sur le web aussi

17

Ces groupes médias ont de l’influence

18

Difficile d’y voir clair dans leurs alliances / préférences

19

Sur le web aussi

20

Ces médias tirent leurs revenus de la pub.

21

Les grands acteurs du web aussi

22

Les médias ont une grande influence.Un grand pouvoir.

23

24

Sur le web média quel est le périmètre des industries de l’influence ?

25

Influence sur l’opinion (2005)« Publicité politique »

26

RÉVOLUTION : LES MOTS AVAIENT UN SENS. ILS ONT DÉSORMAIS UN PRIX

CAPITALISME LINGUISTIQUE**

27**http://fr.slideshare.net/frederickaplan/kaplan-enmi12

Google : 1.accumule et exploite du capital linguistique (direct : ses services, ou dérivé : son moteur)2.confie à un algorithme le soin d’organiser la spéculation3.Crée, contrôle et profite du 1er marché linguistique mondial(d’après Frédéric Kaplan**)

Influence sur le politique (2012)Du politique => médias

28

Influence sur … le vote !! (2014)Médias => politique

29

Influence sur … le vote !! (2014)• « Lorsque vous faites défiler votre flux Facebook, vous ne voyez pas tous les articles de chacun de vos

amis. Ce que vous voyez a été sélectionné par un algorithme automatisé qui n'est pas rendu public. Mais quelqu'un peut payer pour augmenter la probabilité que ses amis ou fans voient ses messages. (…) »

• « Le potentiel de manipulation, ici, est énorme », explique Schneier avant de prendre un exemple parlant.

• « Lors de l'élection américaine de 2012, les utilisateurs de Facebook ont eu l'occasion d'afficher une icône “J'ai voté”, un peu comme les vrais autocollants que beaucoup d'entre nous obtiennent sur les lieux de vote après avoir voté. Ce badge produit un effet d'entraînement à voter plutôt documenté : vous êtes plus susceptibles de voter si vous pensez que vos amis votent aussi. Cette manipulation a eu pour effet d'augmenter le taux de participation de 0,4% au niveau national. » Un résultat qui est loin d'être anodin. « Mais maintenant, imaginez que Facebook ait manipulé la visibilité du badge “J'ai voté” sur la base soit de votre appartenance à un parti politique, soit sur celle d'un critères proche de celui-ci, comme votre code postal, les blogs que vous lisez, les liens que vous appréciez… Il ne l'a pas fait, mais s'il l'avait fait, cela aurait eu pour effet d'augmenter le taux de participation dans une direction », pouvant conduire à faire plus voter certains que d'autres… Si Facebook l'avait fait, cela serait difficile à détecter, mais cela ne serait pas illégal, assène Schneier. « Facebook pourrait facilement faire basculer une élection serrée en manipulant sélectivement les messages que ses utilisateurs voient. Google pourrait faire quelque chose de similaire depuis ses résultats de recherche. » http://internetactu.blog.lemonde.fr/2015/03/20/demain-comment-saurons-nous-comment-on-nous-manipule/

30

Influence sur sujets de société

31

Influence sur sujets de sociétéPublicité => avortement

32

Influence sur

« l’humeur »

33

Quel est leur secret ?

• Ils sont les seuls à avoir une vue d’ensemble• Ils sont les seuls à avoir la formule (secrète)• Ils sont les seuls à disposer d’un tel public « captif »

34

• Et surtout, ils sont les seuls à connaître précisément nos intentions

DATA REVOLUTION > ALGORITHMES PRÉDICTIFS**

BIG DATA

35**http://www.internetactu.net/2011/09/19/la-police-predictive-lalgorithme-du-crime/

36

*Google suggest > suggestions de recherche*Google Instant Search > auto-complétion + affichage de résultats en cours de frappe

LA RÉPONSE AVANT LA QUESTION

Ils les connaissent tellement bien qu’ils nous proposent les réponses

avant que nous posions les questions

Orwell / Fiction

37

Minority Report / Science Fiction

38

Réalité

39

Aujourd’hui pour presque ¼ de l’humanité, pour la moitié (1,5 M) de la population connectée (3 M), ce sont des plateformes privées (FB, Twt, Google, etc.) qui décident de « qui peut voir quoi », de « ce qui est choquant » et de « ce qui ne l’est pas », de ce qui peut être vu ou lu, et dans quel ordre.Et c’était pas du tout prévu comme ça …

40

CHAPITRE 1

Petits rappels historiques

41

LES FONDATIONS DU WEB7 Conditions nécessaires• Un réseau de réseaux• Non propriétaire et sans droits d’accès• Sans filtrage (éditorial)• Des contenus indépendants des tuyaux (principe

neutralité du net)• Un système d’adressage universel (URL)• Un langage commun (HTML)• Tous les parcours possibles via un simple

navigateur

42

Mars 1989Le web : un projet

« vague mais excitant »

43

30 avril 1993 : le web entre dans le domaine public44

« Son histoire est un accident fortuit résultant d’un désintérêt commercial initial, d’une négligence gouvernementale et militaire et de l’inclinaison des ingénieurs à construire des systèmes ouverts simples et faciles. » Bruce Schneier 45

46

47

DOMAINEPUBLIC

DOMAINEPUBLIC

SYSTÈMES OUVERTS SIMPLES FACILES

SYSTÈMES OUVERTS SIMPLES FACILES

GRATUIT ET / OU OPEN

SOURCE

GRATUIT ET / OU OPEN

SOURCE

48L’histoire peut commencer …

1 homme 1 page 1 adresseLe cœur de l’écosystème : le lien

49

Il y a 20 ans « Vos lois ne s’appliquent

pas ici »

• 1996. John Perry Barlow rédige la « déclaration d’indépendance du cyberespace. »• CYBER-UTOPIE• « Nous sommes en train de créer un monde où tous peuvent entrer sans privilège et sans être

victimes de préjugés découlant de la race, du pouvoir économique, de la force militaire ou de la naissance.

• Nous sommes en train de créer un monde où n’importe qui, n’importe où, peut exprimer ses croyances, aussi singulières qu’elles soient, sans peur d’être réduit au silence ou à la conformité.

• Vos concepts légaux de propriété, d’expression, d’identité, de mouvement, de contexte, ne s’appliquent pas à nous. Ils sont basés sur la matière, et il n’y a pas ici de matière. »

• http://w2.eff.org/Censorship/Internet_censorship_bills/barlow_0296.declaration

50

Ce n’est ni la jungle ni le « far-west »

51

C’est le web à « l’état de nature »

1998 : Google. 1 moteur. 1 formule

52

1ère RÉVOLUTION : DÉRIVE DES CONTINENTS DOCUMENTAIRES

INDEXABILITÉ

WEB PUBLIC

WEB PRIVÉ

DOC. PERSONNELS

INFOS INTIMES

1990

2000

2010 : CLOUD COMPUTING

53

Web des documents.Web des « externalités »

4 février 2004 : création de Facebook

54

Jardin à la française

55

Un jardin « fermé »

56

Entrée libre mais propriété privée. CGU

2ème RÉVOLUTION > CHANGEMENT D’AXE DE ROTATION DU WEB > DOCUMENTS > HOMMES

• L’essentiel du web n’a plus pour fonction principale de permettre à des hommes de relier des documents, mais de permettre à quelques multinationales de collecter de l’information sur l’activité de chacun d’entre nous.

• L’HOMME DEVIENT UN DOCUMENT COMME LES AUTRES (indexable, monétisable, « partageable »)

DOCUMENTATION DE SOI

57

Web des profils

Février 2009 : lancement du « like »Avril 2010 : Le pouce bleu partout

58

« Externalités » deviennent « internalités »Tout ce qui est signalé, commenté, partagé « à l’extérieur » de la plateforme est simultanément ramené à l’intérieur de la plateforme.

2007 : lancement de l’iPhone

59Smartphone devient « la télécommande de nos vies ».

60

16 mars 2015.

1er blocage administratif

de site.61

Des Etats qui « bloquent » des sites (sans passer par la justice) et qui demandent aussi le retrait de sites (souvent – mais pas toujours – en application de la loi)

62http://www.google.com/transparencyreport/?hl=fr

Main invisible de l’algorithme

Peau de chagrin

63

Chaque année des millions de sites et de pages sont délibérément supprimées au nom du DMCA (Digital Millenium Copyright Act)

Main invisible de l’algorithme

Peau de chagrin

64

Des « robots » mènent l’enquête et identifient les contenus. D’autres « robots » les suppriment. Aucune décision « humaine ». Aucun recours.

Disparition invisible. On ne peut plus « vérifier ».Personnalisation systématique.Pour une même recherche, plus personne n’affiche des résultats identiques.

65

66

67

CHAPITRE 2

Des chiffres et des usages

68

Internet aujourd’hui c’est quoi ?

69

Internet combien sommes-nous ?

• 3 milliards d’internautes• 1,5 milliard sur Facebook.

70

Internet combien serons-nous ?

71

Comment nous connectons-nous ?

• 1 milliard de smartphones vendus en 2013• Les terminaux mobiles vont être l'accès

privilégié de 2,6 milliards des 2,9 milliards de personnes connectées sur Internet

72

Pour faire quoi ?

73

Pour faire quoi ?

74

Nouveau village global ?

http://www.lesechos.fr/entreprises-secteurs/tech-medias/actu/0202480707577-google-investit-la-silicon-prairie-525638.php75

76

CE QUI

A CHANGÉ

CE QUI

A CHANGÉ

77

78

CE QUI

A CHANGÉ

CE QUI

A CHANGÉ

79

ApplicationsApplications

Délaissés / liés (moteurs)Délaissés / liés (moteurs)

Partialité / vue biaiséePartialité / vue biaisée

Derrière des mursDerrière des murs

FB NET (internet.org)FB NET (internet.org)

PropriétairesPropriétaires

SmartphonesSmartphones

CE QUI

A CHANGÉ

CE QUI

A CHANGÉ

Enjeu ? Entretenir l’attention (économie de l’attention). « temps de cerveau disponible ».

Stratégies d’addiction

80

Au risque de la pathologie

81

Le web social ?

82

Comme j’ai toujours peur de manquer quelque chose …

Comme j’ai toujours peur de manquer quelque chose …

Notifications …Notifications … Web « éphémère »Web « éphémère »

CHAPITRE 3 : quelques problèmes

concrets et d’actualité.

Ouvert ou fermé : le choix entre le code et la loi.83

Discours de la haine ?OUI C’est compliqué

C’est compliqué

84

Qui décide ?

De diffuser ou de bloquer cette vidéo ?

Qu’il s’agit de tweets antisémites ou d’humour ?

Qu’il s’agit de blasphème ou de droit à la caricature ?

85

Qui décide ??

La justice ?Mais laquelle ? Française ? Européenne ? Saoudienne ?Israëlienne ? Palestinienne ? …

Nous ?Mais nous sommes capables du meilleurs, comme du pire …

Un algorithme ?Sur quels critères ? Avec quel risque d’erreur ?

Une multinationale ?Mais sur quels critères ? De quel(s) droit(s) ? A quelle échelle ? 86

Qui décide ?

Une real-géo-politique du business ?

87

Mais on pourrait prendre d’autres exemples. Plein d’autres exemples.

88

Qui décide si c’est de l’art ou de la pornographie ?

89

Qui décide de différence entre nudité et pornographie ?

AUTORISÉ

INTERDIT

INTERDIT

INTERDIT

AUTORISÉ

Apple nipples***

Puritanisme anglo-saxon ?Hygiènisme boutiquier ?

OUI MAIS : Apple Store : 400 millions de comptes bancaires actifs*Facebook : 1 milliard d’utilisateurs actifs**

*http://belgium-iphone.lesoir.be/2012/06/11/apple-communique-des-chiffres-impressionnants-a-la-wwdc-2102/**http://affordance.typepad.com/mon_weblog/2012/10/facebook-1-milliard.html***http://www.france24.com/fr/20100223-apple-veut-pas-seins-son-iphone

90

AUTORISÉ

91

Mais finalement, qui décide VRAIMENT de tout ça ???

Apple ? Steve Jobs ? Facebook ? Mark Zuckergerg ? Leurs avocats ? Les ligues de morale américaines ? Non.

92

Des algorithmes.

93

10 algorithmes qui dominent le monde.http://io9.com/the-10-algorithms-that-dominate-our-world-1580110464

1. capables de trouver (Google PageRank),

2. de faire connaissance (Facebook Edgerank),

3. d'aimer (Meetic et consorts),

4. de surveiller (NSA),

5. de choisir et de prescrire (Amazon),

6. d'acheter des mots aux enchères (Adwords),

7. jouer avec les cours de la bourse (High Frequency Trading),

8. de prédire le crime (IBM / analyse prédictive)

9. d'écouter de la musique (MP3 Compression).

94

RAPPEL : Il y a 20 ans « Vos lois ne s’appliquent

pas ici »• 1996. John Perry Barlow rédige la « déclaration d’indépendance du cyberespace. »• « Nous sommes en train de créer un monde où tous peuvent entrer sans privilège et sans être

victimes de préjugés découlant de la race, du pouvoir économique, de la force militaire ou de la naissance.

• Nous sommes en train de créer un monde où n’importe qui, n’importe où, peut exprimer ses croyances, aussi singulières qu’elles soient, sans peur d’être réduit au silence ou à la conformité.

• Vos concepts légaux de propriété, d’expression, d’identité, de mouvement, de contexte, ne s’appliquent pas à nous. Ils sont basés sur la matière, et il n’y a pas ici de matière. »

95

Il y a 15 ans« Code is Law »

• 2000. Lawrence Lessig publie l’article « Code is Law. »• « Des gens choisissent la manière dont le code effectue tout cela. Des gens 

écrivent ce code. Dès lors le choix n'est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D'autres gens - les codeurs - le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix - et si nous pourrons alors déterminer la manière dont ces valeurs se régulent - ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. »

96

Il y a 1 mois.« Nous sommes au-dessus des

lois ? »

• 9 Janvier 2015.• 2 jours après les attentats, Mark Zuckerberg écrit sur son mur

« Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde. »

97

Je résume1996.

« Il n’y a pas de lois ici »2000.

« le code c’est la loi »9 Janvier 2015.

« certaines plateformes sont au-dessus de certaines lois. »

98

Pourquoi est-ce si compliqué, CONFUS, PAS CLAIR, PAS TRANSPARENT ??!

99

100

3 moyens de lutte contre la haine

• La loi – principe de territorialité– Nul n’est censé l’ignorer. – Mais tout le monde à le droit à un avocat.

• Les règlements (CGU)– principe de viabilité commerciale. – Nul n’est censé les lire – mais tout le monde est considéré comme les ayant accepté.

• Le code – principe d’invisibilité. – Nul n’est (plus) censé le maîtriser, – mais tout le monde quotidiennement s’y soumet.– Y compris … le législateur ?

• What Else ? • Principes ? Morale ? Ethique ? Valeurs ? 101

102

Lutter contre la haine

• La loi

• Les règlements (CGU)

• Le code

• Qu’est-ce qui est le plus important ? LE CODE. • Qu’est-ce qui décide ? LE CODE. • Que doit connaître la loi ? LE CODE.

Océan / plage (espace public)CIRCULAIRE n° 86-204 du 19 juin 1986. Surveillance des plages et lieux de baignade d'accès non payant.

Piscine (espace privé)

Dans quoi je me baigne ??Dans de l’eau ou dans de l’acide chlorydrique ?

102

« Nul n’est censé ignorer la loi »

« Nulle loi ne peut plus se permettre d’ignorer le code. »

Devient …

« Code is Law »

103

Résultat ?• 9 Janvier 2015.• 2 jours après les attentats, Mark Zuckerberg écrit sur son mur « Nous suivons les lois de 

chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde. »

Il a le code. Nous avons signé son règlement.IL EST LA LOI. SA LOI.

104

Ce n’est pas la taille qui compte … mais quand même ça compte un peu.

Barak O. Président of USA. 320 millions d’habitants.

Mark Z. CEO of Facebook. 1,5 milliard d’utilisateurs.

105

CHAPITRE 5

ON FAIT QUOI ???106

107

http://degooglisons-internet.org/

On fait quoi ?• Niveau individuel :

– Choix open source (dégooglisons internet)– Cryptage (PGP) / VPN– Confidentialité (paramètres)– Et au quotidien :

http://www.politis.fr/Petit-guide-de-la-vie-privee,30517.html

• Niveau collectif– Soutien associations libertés individuelles (quadrature net)

• Niveau politique– OUVRIR ET METTRE EN DÉLIBÉRÉ LA PARTIE DU CODE QUI

RELÈVE DE CETTE ÉDITORIALISATION– OU ALORS : CRÉER UN INDEX INDÉPENDANT DU WEB.

108

Merci

QUESTIONS ?

109