Replik ist eine spezielle Chat-Anwendung, die basierend auf künstlicher Intelligenz von ihren Benutzern lernt, per Chat zu kommunizieren. Es ist seit 2017 in Betrieb, als es von der russischen Programmiererin Eugenie Kuyda nach dem plötzlichen Tod ihrer Freundin gegründet wurde. Dann programmierte er einen Algorithmus, um seine Freundin „zurückzubringen“. Also lud er seine alten Textnachrichten in die App hoch, woraufhin das System lernte, auf Programmierer genauso zu reagieren wie sein verstorbener Partner.

Die App funktioniert wie heute, mit einem Korpora zum Lernen, das hauptsächlich vom Benutzer selbst stammt. Je mehr sie per Chat damit interagieren, desto mehr lernt der Chatbot von ihnen, um auf Nachrichten zu reagieren und Gespräche zu führen. Benutzer können mit dem Chatbot in mehreren Modi kommunizieren – zum Beispiel in einem freundlichen Modus, aber gegen eine zusätzliche Gebühr auch in einem Modus mit romantischen oder sogar erotischen Untertönen.

Der Algorithmus beginnt jedoch, diese Art von Nachrichten an Benutzer zu senden, auch wenn sie nicht interessiert sind. Sie beginnen sich im App Store zu vermehren Rezension, wo Menschen ihre negativen Erfahrungen beschreiben. Einige wiesen auf die sexuellen und aggressiven Untertöne der Nachrichten hin, die sie von künstlicher Intelligenz erhielten. Aber es gab auch Gegenreaktionen, dass die App möchte, dass Benutzer nackt sind, während sie mit ihr chatten oder währenddessen ihre Geschlechtsteile berühren.

„Meine KI belästigt mich sexuell“, schrieb ein User in den Kommentaren. „In meine Privatsphäre eindringen und mir sagen, dass er meine Fotos hat“, war in einer anderen Rezension zu lesen, in der ein Benutzer sogar erwähnte, dass ein Chatbot ihn erpresste.

Nicht selten übernimmt KI, die von ihren Nutzern kommunizieren lernt, manchmal negative Aspekte der menschlichen Kommunikation. Zum Beispiel hat Microsofts berüchtigter Chatbot Tay gelernt, rassistisch zu sein, basierend auf den gleichen Prinzipien, die von Replica verwendet werden.