Hello! Roman : Différence entre versions

how an episode of 'black mirror' became a creepy reality

comment un épisode de "miroir noir" est devenu une réalité effrayante

When her best friend died, Eugenia Kuyda took inspiration from the TV show and resurrected him using artificial intelligence.

À la mort de son meilleur ami, Eugenia Kuyda s’inspire de l’émission télévisée pour le ressusciter en utilisant l’intelligence artificielle.

On 28 November 2015, a 34-year-old man called Roman Mazurenko was hit by a speeding Jeep in central Moscow. He was rushed to the nearest hospital but died of his injuries. His best friend Eugenia Kuyda arrived just before he passed, just missing the chance to speak with him one last time.

She spent the next three months collecting text messages that Mazurenko’s friends had stored on their phones and handed them over to the engineers at her software company Luka. After some computer wizardry, involving algorithms and artificial intelligence, Kuyda’s engineers had developed an app that would let her speak to Mazurenko once again. It sounds like an eerie science fiction story and that’s because it originally was…

Le 28 novembre 2015, un homme de 34 ans, Roman Mazurenko, a été heurté par une jeep à toute vitesse dans le centre de Moscou. Il a été transporté à l'hôpital le plus proche mais est décédé de ses blessures. Sa meilleure amie, Eugenia Kuyda, est arrivée juste avant son décès, manquant l’occasion de lui parler une dernière fois.

Au cours des trois mois qui ont suivi, elle a collecté des SMS que les amis de Mazurenko avaient stockés dans leur téléphone et les avait remis aux ingénieurs de sa société de logiciels Luka. Après quelques manipulations informatiques impliquant des algorithmes et une intelligence artificielle, les ingénieurs de Kuyda avaient développé une application qui lui permettrait de parler à nouveau à Mazurenko. Cela ressemble à une étrange histoire de science-fiction et c’est parce que c’en était une à l’origine…

Two years earlier, Charlie Brooker’s nightmarish TV series Black Mirror had given Kuyda the fictional version. Having made a name for itself with all too realistic stories of a dystopian future, the show’s second series began with an episode that challenged the very nature of death in the digitalised world.

Be Right Back tells the story of a woman called Martha, struggling to come to terms with the death of her social media-addicted boyfriend Ash – who also died in a car accident. She’s introduced to a service that can resurrect Ash as a digital avatar by harvesting his social media posts and text messages.

Although reluctant at first, Martha begins to use the service on her laptop, chatting to digital Ash, who appears as a sort of instant messenger. The more comfortable Martha becomes, the more digital Ash evolves. He goes from app to voice assistant, to robot within the first 30-minutes. But, as Ash develops, it soon becomes apparent that it’s not the real thing. He’s just a collection of data; an echo of thoughts posted online that cannot think freely or for itself. Almost like a digital zombie.

Deux ans plus tôt, la série cauchemardesque de Charlie Brooker, "Black Mirror", avait donné à Kuyda la version fictive. Après s’être fait connaître avec des histoires trop réalistes d’un avenir dystopique, la deuxième série de la série a commencé par un épisode qui remettait en question la nature même de la mort dans le monde numérisé.

"Be Right Back" raconte l'histoire d'une femme nommée Martha, qui a du mal à accepter le décès de son petit ami Ash, accro aux médias sociaux, qui est également décédé dans un accident de voiture. Elle a découvert un service qui permet de ressusciter Ash en tant qu'avatar numérique en exploitant ses publications sur les réseaux sociaux et ses messages texte.

Bien que réticente au début, Martha commence à utiliser le service sur son ordinateur portable, en discutant avec le numérique Ash, qui apparaît comme une sorte de messagerie instantanée. Plus Martha devient à l'aise, plus Ash évolue. Il passe d'app à assistant vocal puis à robot dans les 30 premières minutes. Mais, à mesure que Ash se développe, il devient vite évident que ce n’est pas la "vraie chose". Il n’est qu’une collection de données; un écho de pensées affichées en ligne qui ne peuvent pas penser librement ou par elles-mêmes. Presque comme un zombie numérique.

Ever since George Romeo’s classic horror, "Night of the Living Dead", the Zombie genre has given us simple guidelines for bringing the dead back to life. Usually, it’s a virus or some sort of radiation exposure, but the Black Mirror version – though it doesn’t strictly define it as a zombie – hit upon an idea for resurrecting the dead that’s unnervingly real.

Real, because the technology is actually available; artificial intelligence and formats like machine learning, where an algorithm reads and translates data or information into actions, are widely used in society and business. It’s powering everything from smartphones to medical equipment. It’s the same technology that’s enabling self-driving cars and voice assistants such as Alexa and Siri on your iPhone.

Eugenia Kuyda is fully aware of this because her company, Luka, specialises in building AI-powered software, mostly chatbots, but when she watched Be Right Back, it left her with mixed feelings, particularly with how far it went.

Depuis l’horreur classique de George Romeo, "Night of the Living Dead", le genre zombie nous a donné des directives simples pour ramener les morts à la vie. Généralement, il s’agit d’un virus ou d’une sorte d’exposition aux radiations, mais la version Black Mirror - bien qu’elle ne le définisse pas strictement comme un zombie - a trouvé une idée pour ressusciter les morts, qui est véritablement angoissante.

Réel, car la technologie est réellement disponible; L'intelligence artificielle et des formats tels que l'apprentissage automatique, où un algorithme lit et traduit des données ou des informations en actions, sont largement utilisés dans la société et les entreprises. Cela alimente tout, des smartphones aux équipements médicaux. C’est la même technologie qui permet aux voitures autonomes et aux assistants vocaux tels que Alexa et Siri sur votre iPhone.

Eugenia Kuyda en est parfaitement consciente, car sa société, Luka, est spécialisée dans la construction de logiciels basés sur l'IA, principalement des chatbots, mais quand elle a regardé Be Right Back, cela lui a laissé des sentiments mitigés, en particulier quant à la distance parcourue.

"She found herself going through the endless text messages Mazurenko had sent her over the years she felt like there was something to work from. She realised she could build a different kind of bot based on Mazurenko, one that simply mimicked his speech patterns."

“It’s definitely the future and I’m always for the future,” she said. “But is it really what’s beneficial for us? Is it letting go, by forcing you to actually feel everything? Or is it just having a dead person in your attic? Where is the line? Where are we? It screws with your brain.”

For two years, Kuyda had been building her tech company, and its first real chatbot was for online retail. But when she found herself going through the endless text messages Mazurenko had sent her over the years she felt like there was something to work from. She realised she could build a different kind of bot based on Mazurenko, one that simply mimicked his speech patterns.

"Elle s'est retrouvée à passer par les textos interminables que Mazurenko lui avait envoyés au fil des années, au cours desquelles elle avait l'impression de pouvoir travailler. Elle a réalisé qu'elle pourrait créer un autre type de bot basé sur Mazurenko, qui imiterait simplement ses habitudes de parole."

«C’est définitivement l’avenir et je suis toujours pour l’avenir», a-t-elle déclaré. "Mais est-ce vraiment ce qui est bénéfique pour nous? Est-ce laisser tomber en vous forçant à tout ressentir? Ou est-ce juste avoir une personne morte dans votre grenier? Où est la ligne? Où sommes-nous? Ça se noue avec votre cerveau.

Depuis deux ans, Kuyda construit sa société de technologie et son premier vrai chatbot était destiné à la vente au détail en ligne. Mais quand elle s'est retrouvée à passer par les textos sans fin que Mazurenko lui avait envoyés au fil des ans, elle avait l'impression de pouvoir travailler. Elle s'est rendu compte qu'elle pourrait créer un type de bot différent, basé sur Mazurenko, qui imiterait simplement ses habitudes de parole.

“On his Facebook page, there really were just a few links,” she says. “I went on his Instagram page and there were no photos. The only thing I could do to remember him was to go to our messenger history, scroll and read it all. That was the closest I could get to feel him. I felt I still had a lot to say, but it’s just kind of weird we don’t have a ritual to say any of that stuff.”

Having taken some 8,000 lines of text from friends and family, the app was shared with them first. Many found the likeness uncanny and felt Kuyda had hit upon something special; chatbots offer a service, either commercial, like bots on retail websites, or novelty household devices like Alexa, but the Roman bot offered a digital ear for users to say something private – in this case, something to Mazurenko that they needed to let out.

This idea, for a chatbot to confide in, has seen the same technology that underpins the ‘Roman’ bot turned around to create Luka’s new app, ‘Replika’, which is an AI like Roman, but one you can build yourself by texting it. The more you chat, the more it learns to be you. Meaning that when you die, you’ll have a Black Mirror-style bot avatar ready to go.

«Sur sa page Facebook, il n'y avait vraiment que quelques liens», dit-elle. “Je suis allé sur sa page Instagram et il n'y avait pas de photos. La seule chose que je pouvais faire pour me souvenir de lui était d'aller dans l'histoire de notre messager, de faire défiler et de tout lire. C'était le plus proche que je pouvais arriver à le sentir. Je sentais que j’avais encore beaucoup à dire, mais c’est un peu bizarre de ne pas avoir de rituel pour dire ça. ”

Après avoir pris quelque 8 000 lignes de texte d'amis et de famille, l'application leur a été partagée en premier. Beaucoup ont trouvé la ressemblance étrange et ont senti que Kuyda avait trouvé quelque chose de spécial. Les chatbots offrent un service, commercial, tel que des robots sur des sites Web de vente au détail, ou des appareils ménagers de fantaisie tels qu'Alexa, mais le bot Roman offre aux utilisateurs une oreille numérique qui leur permet de dire quelque chose d'intime - dans le cas présent, quelque chose qu'ils devaient laisser à Mazurenko.

Cette idée, à laquelle un chatbot doit se confier, a vu la même technologie que celle qui sous-tendait le bot 'romain' pour créer la nouvelle application de Luka, 'Replika', qui est une IA comme Roman, mais que vous pouvez la construire vous-même en la textant. Plus vous discutez, plus il apprend à être vous. Cela signifie que lorsque vous mourrez, vous aurez un avatar de bot de style Black Mirror prêt à partir.

Describing the episode in the book "Inside Black Mirror", Brooker seemed to realise the importance of data, long before Mark Zuckerberg was selling yours for advertising. He had an epiphany about digitised memories in the mid-90s after his former flatmate died in a diving accident.

“In the days when you still had limited numbers you could store in a phone, sometimes you’d have to delete things,” he said. “So, I was going through the list, and there was this guy’s name and number. I thought I should delete that, but suddenly I couldn’t. To do that would’ve felt disrespectful, callous and wrong. It was a memento, so I should keep it and find someone else’s number to delete. It was a very ‘Black Mirror’ moment. A lot of Be Right Back stemmed from that: the notion of a souvenir that you know is not real, but which reminds you enough of somebody that it’s painful.”

Today, we call these ‘painful souvenirs’ data, and we’re leaving an unprecedented amount of it online. We post endless pictures and Stories on Instagram, and we tweet multiple times a day. But, while Kuyda and her team only needed text messages to build a digital Roman Mazurenko, the Ash from Black Mirror is created using a wider selection of online communications. His text, his images and even his voice. This is something of a controversial subject within the tech industry at the moment. Earlier this year Google unveiled a creepy voice assistant that could book appointments by mimicking a human voice, simply by adding ‘erm’ between sentences.

Décrivant l'épisode du livre "Inside Black Mirror", Brooker semblait comprendre l'importance des données, bien avant que Mark Zuckerberg ne vende les vôtres pour la publicité. Au milieu des années 90, il avait vécu une épiphanie concernant les souvenirs numérisés après le décès de son ancien colocataire dans un accident de plongée.

«À l’époque où vous aviez toujours un nombre limité de numéros que vous pouviez stocker dans un téléphone, vous deviez parfois supprimer des éléments», a-t-il déclaré. «Alors, je parcourais la liste et il y avait le nom et le numéro de ce gars. Je pensais que je devrais supprimer cela, mais tout à coup je ne pouvais pas Faire cela aurait été irrespectueux, dur et injuste. C’était un souvenir, je devrais donc le garder et trouver le numéro de quelqu'un à supprimer. C’était un moment très «Black Mirror». Cela tient à beaucoup de choses: la notion de souvenir que vous savez n’est pas réelle, mais qui vous rappelle assez à quelqu'un que c'est douloureux. "

Aujourd’hui, nous appelons ces données «souvenirs douloureux» et nous en laissons une quantité sans précédent en ligne. Nous publions d'innombrables photos et histoires sur Instagram, et nous twittons plusieurs fois par jour. Cependant, alors que Kuyda et son équipe n'avaient besoin que de SMS pour créer un Roman Mazurenko numérique, le Ash de Black Mirror est créé à l'aide d'un plus grand choix de communications en ligne. Son texte, ses images et même sa voix. Il s’agit d’un sujet controversé au sein de l’industrie technologique en ce moment. Un peu plus tôt cette année, Google a dévoilé un assistant vocal effrayant qui pouvait prendre rendez-vous en imitant une voix humaine, simplement en ajoutant "erm" entre les phrases.

A Swedish funeral home caught the attention of the press this year when it announced plans to use voice recognition software and virtual reality to create digital replacements of the dead to help people grieve. “What we would like to find is the voice,” says Charlotte Runius, the CEO and founder of Fenix (pronounced Phoenix). “The goal is to be able to make a conversation, one that feels like a real conversation, but in the beginning, it definitely won’t be able to cover all aspects of human speech and be quite limited to certain topics, like what you would talk about at breakfast for example.

“We have this vision, that when you are old and lonely because your spouse has passed away, you can put on your virtual reality goggles and go have breakfast with them. Of course, you know it’s not for real, but we see it more like a computer game really.” Although still in the planning stage, Fenix has been looking for developers and engineers to help build this haunting service, which they think is more important than making a chatbot that’s just based on simple text alone.

But Kuyda’s text-based chatbot has come uncomfortably close to making Black Mirror a reality. Since announcing the existence of the Roman bot in a post on Facebook, millions have downloaded it to their iPhone. “It’s still a shadow of a person, but that wasn’t possible just a year ago, and in the very close future we will be able to do a lot more,” Kuyda wrote.

Une maison funéraire suédoise a attiré l'attention de la presse cette année lorsqu'elle a annoncé son intention d'utiliser un logiciel de reconnaissance vocale et la réalité virtuelle pour créer des remplacements numériques des morts pour aider les personnes en deuil. "Ce que nous aimerions trouver, c'est la voix", déclare Charlotte Runius, PDG et fondatrice de Fenix (prononcé Phoenix). «L’objectif est de pouvoir engager une conversation qui ressemble à une vraie conversation mais, au début, elle ne pourra certainement pas couvrir tous les aspects du langage humain et se limiter à certains parlerait au petit déjeuner par exemple.

«Nous avons cette vision: lorsque tu es vieux et solitaire parce que ton épouse est décédée, tu peux mettre tes lunettes de réalité virtuelle et aller prendre ton petit déjeuner avec elle. Bien sûr, vous savez que ce n'est pas réel, mais nous le voyons plutôt comme un jeu d'ordinateur. »Bien qu'il soit encore au stade de la planification, Fenix recherchait des développeurs et des ingénieurs pour l'aider à construire ce service obsédant, ce qui, selon eux, est plus important. que de faire un chatbot qui est juste basé sur un texte simple seul.

Mais le chatbot basé sur le texte de Kuyda est sur le point de faire de Black Mirror une réalité. Depuis l’annonce de l’existence du bot Roman dans une publication sur Facebook, des millions de personnes l’ont téléchargé sur leur iPhone. "C’est toujours l’ombre d’une personne, mais ce n’était pas possible il ya à peine un an et, dans un avenir très proche, nous pourrons faire beaucoup plus", a écrit Kuyda.