Faruk Ateş (créateur de Modernizer et auteur de fiction), dans A List Apart, détail les « impératifs moraux », nourrit de science comportementale, auxquels doit répondre un concepteur de produits (numériques, dans le cas présent).

Cet article donne de façon explicite un rôle moral extrèmement fort à ceux qui développent des produits. Je suis en accord avec de nombreux présupposés et propositions, même si certains ont pu me faire froncer les sourcils à la première lecture (commentaires dans le texte ci-dessous), mais la pessimiste en moi se demande tout de même :

  • un produit qui ne donne que des leviers d’action « positif » sera-t-il aussi utilisé que celui qui permet d’exprimer toute la palette des émotions (et notamment les moins avouables) ?
  • et la suite logique : quel intérêt aurait un concepteur de produire des produits bénéfiques si cela ne lui permet pas d’engranger aussi plus de bénéfices ? Même si je pense que nous sommes finalement nombreux à ne pas être dépourvus de tout sens moral :), les pressions au résultat financier ne sont-elles pas plus fortes ? En somme, dans quel mesure est-on libre de produire des produits moralement acceptables ?

If we don’t practice a more sustainable form of product design, we risk harmful side effects to people and society that could have been avoided.

Neutralité du code ?

Your product and your users do not exist in a vacuum. Your algorithms are not fair or neutral. Your careful touch is not pristine. Your life experiences instill certain values and biases into your way of thinking. These, in turn, color your design process and leave an imprint behind in the product.

Un design inclusif

Sometimes people who fall outside the « target audience » are overlooked simply because their priorities for your product come in second place in their lives. Design your product to bridge such gaps, rather than ignoring them.

Listen to the voices of people expressing concern and learn to see the pain points they experience, even if they don’t articulate them as such. Step up to your responsibilities as a designer, curator, entrepreneur, or platform owner.

Read studies that examine human psychology to understand how people’s biases may be exacerbated by your product. Learn about microaggressions so you can consciously design around them. Extrapolate how people with nefarious goals—from hackers to authoritarian governments—could exploit or abuse your features or the data you collect.

Work with data and let it inform you, but remember that data is suggestive, not authoritative; the data we gather is always a myopic subset of the entirety that exists but cannot possibly be measured.

Encourager l’optimisme et le civisme

Features like upvotes and downvotes may seem like a balanced solution for people to express opinions, but the downvote’s only purpose is to feed and perpetuate negativity; it can be avoided or removed entirely without harmful consequences.

Don’t give angry people shortcuts to wield negative power; make them either articulate their anger or deal with it in more constructive ways.

Any feature that petty, time-rich people can abuse to game your product’s ranking or discovery algorithms is a feature that eventually serves up toxic behaviors (regardless of the person’s politics) and is best left out.

Also avoid features that simply waste time, because when people waste time they feel less happy than when they do something productive or constructive.

L’auteur revient aussi sur l’exemple de Nextdoor, plateforme sociale de voisinage, qui a réussit à réduire de 75 % les signalements raciaux en repensant les modalités de déclaration d’« activités suspectes ».

  • n’est-ce pas une vision finalement pessimiste de l’humanité qui transparait ici ? Ce que je lis entre les lignes est « Ne donnons pas à nos utilisateurs la possibilité de faire ceci, car ils en feront forcément le pire usage possible ! ». C’est un peu infantilisant, même si je crois moi aussi que certains environnement, certains produits, peuvent impliquer plus naturellement certains types de comportements. Par contre, je ne pense vraiment pas que la simple suppression de certaines fonctionalités suffise à faire de nous des humains meilleurs.

Renforcer la confiance et le courage

Think about features and insights that encourage people in positive ways; teach them knowledge you have that they might not, perhaps as imposingly as by embedding its principles as features themselves.

Augmenter la force émotionnelle

The strongest case for this is made by a variety of studies that show that our current social media platforms make people less happy.

Et la question qui me vient est pourquoi est-ce que les réseaux sociaux sont conçus de manière à rendre les gens malheureux ? Est-ce une manière au bout du compte de pouvoir faire plus d’argent ? Dans ce cas, comment fait-on vraiment pour modifier la façon dont sont conçus ces produits ?

When we set our goals not just to create great products, but products that help transform how we think, we can tackle underlying biases and prejudices that people may have but would be happy to be eased out of. We strengthen their confidence and character, and address problems that go well beyond the scope of any one product. And while none of us are solely responsible for fixing major problems in society, each of us, when designing a product, has an opportunity to make it part of the solution.

Recréer une pression sociale positive

From a product perspective, that means we have to rely on mechanisms that either invoke those social mores to encourage civil and fruitful interactions, or outright enforce them. We have to design a simulated social circle of peer pressuring friends into the products we make.

Voyez le meilleur des gens (mais restez réalistes)

People prefer being good and happy over being mean-spirited or awful. You can design your products to encourage the best sides of people, to let them shine in their brilliance, to help them learn and grow while doing their work. But don’t mistake seeing the best in people as a reason not to anticipate harmful behaviors or exploitation of your features.

Source : A Dao of Product Design