Eine Maschine, die Menschen simuliert und Falschmeldungen verbreitet, argumentiert mit Ihnen im Internet, warnen Wissenschaftler

„Ich bin nach Oxford gekommen, weil ich darüber nachgedacht habe, wo das Geschäft wirklich aufhört und die Verantwortung gegenüber der Gesellschaft beginnt“, sagt ein junger Forscher und Gründer des Internet Institute, der seine Karriere bei Google beendet hat und nach seinem Studium im Westen in die Tschechische Republik zurückgekehrt ist. Er möchte das Bewusstsein für die Auswirkungen digitaler Technologien auf die Gesellschaft schärfen und dazu beitragen, ihre Grenzen zu definieren – damit sie den Menschen nicht schaden, sondern ihnen dienen.

Tereza Bartoníčková, eine 27-jährige Wissenschaftlerin und Leutnantin der Active Reserve Cyber ​​​​Force der Armee, beschloss, ihre Karriere in der globalen Gemeinschaft aufzugeben, um „auf die andere Seite“ zu gehen und dabei zu helfen, die Grenzen für die digitale Technologie festzulegen. Ihm zufolge fehlt es in der Tschechischen Republik grundlegend an der Beziehung zwischen dem akademischen Bereich und dem Staat und der Wirtschaft. Zu diesem Zweck gründete er 2018 die Denkfabrik Internet Institute. „Tschechische Republik hat sich viel Mühe gegeben, aber es ging darum, die Ziele festzulegen, die unsere Mannschaft erreichen wollte“, fasste er seine Erfahrung zusammen.

Haben Sie die Netflix-Dokumentation The Social Dilemma gesehen? Viele Menschen haben wahrscheinlich ihre Augen dafür geöffnet, wie Tech-Giganten wie Facebook Algorithmen und künstliche Intelligenz (kurz KI) nutzen, um unser Leben direkt zu beeinflussen.

Er sieht, aber ich mag ihn nicht. Dokumente zu diesem Thema ziehen übertriebene Schlüsse. Die Art und Weise, wie sie mit dem Thema umgehen, erscheint mir aggressiv und unnötig einschüchternd, was meiner Meinung nach das Gegenteil von dem ist, was wir erreichen wollen, nämlich dass die Menschen keine Angst vor Technologie haben sollten, sie wissen nur, was sie tun. wieder tun.

Aber ich denke, es wurde in diesem Dokumentarfilm gut gezeigt, dass künstliche Intelligenz kein Roboter ist, der uns eines Tages ersetzen wird, sondern etwas, das unser Leben im Hier und Jetzt beeinflusst.

Richtig, KI ist überall. Die meisten Programme, die im Internet laufen, werden von künstlicher Intelligenz angetrieben. Das Problem ist, dass KI nicht nur bei Plattformen und Suchmaschinen bleibt. Es hält Einzug in unsere Autos, Kühlschränke, Wohnzimmer – es heißt Internet der Dinge. Daher müssen die Prinzipien der KI-Adressierung und nicht die Technologie reguliert werden. Plattformspezifische Regelungen gelten nicht mehr für Ihre Kaffeemaschine.

Tereza Bartoníčková. | Foto: Jakub Plihal

Sie studieren an der University of Oxford Internet-Sozialwissenschaft. Aber vorher machst du deinen Bachelor in Marketing und arbeitest bei Google. Sie fangen also auf der „anderen Seite“ an.

Im Marketing untersuche ich die Prinzipien einer kapitalistischen Ökonomie, also unserer gesamten Gesellschaft. Das auf diesen kapitalistischen Prinzipien basierende Internet ist mit menschlichen Werten nicht vereinbar. Daher ist es schwierig, Mittel für Forschung und Regulierung zu erhalten. Bei Google denke ich darüber nach, was ich tue, was alle Google tun. Ich frage mich, wie sehr die Technologie unsere gewohnte Denkweise stört.

In Oxford wurde ich dazu gebracht, darüber nachzudenken, wo das Geschäft aufhört und die Verantwortung für die Gemeinschaft beginnt. Ich dachte, ich wüsste viel darüber, als ich in dieser Umgebung arbeitete, aber im Grunde sah ich einen großen Ball durch das Schlüsselloch, und als ich mich im Ball wiederfand, war das ein riesiger Schock. Die Tiefe dieses Themas wird diskutiert – die Auswirkungen der Technologie auf die Menschheit, der Regulierungsbedarf – ist enorm.

Was war der schwierigste Teil dieser Recherche?

Finanzierung auf jeden Fall. Die Tschechen haben aufgrund mangelnder Unterstützung nur wenige Schüler in diesen Schulen. Beispielsweise haben die Slowakei und andere Länder Stipendien festgelegt, bei denen der Student angibt, dass er oder sie nach dem Abschluss einige Zeit für die Regierung arbeiten wird. Das ist großartig; er gibt dem Staat zurück, was er draußen gelernt hat, und der Staat zieht Talente zurück. Die Leute kommen nicht hierher zurück. Alle, die mich kannten, klopften sich wieder an die Stirn.

Sie beschäftigen sich heute also mit den ethischen und rechtlichen Implikationen der künstlichen Intelligenz und der möglichen Regulierung der Digitaltechnik. Aber was bedeutet es wirklich? Wie würden Sie es Ihren Großeltern erklären?

Einfach gesagt: Ich sorge dafür, dass die Tatsache, dass wir uns zunehmend in der digitalen Welt bewegen, uns nicht negativ beeinflusst und gesetzlich verankert wird. Deshalb habe ich an der juristischen Fakultät promoviert.

Dies ist der erste Schritt, um die Regierung zu akzeptieren Nationale Strategie für künstliche Intelligenz ab 2019?

Dies ist im Wesentlichen eine Übernahme der Strategie der künstlichen Intelligenz von der Europäischen Union. Es verfügt über Ressourcen und bringt qualifizierte Wissenschaftler auf diesem Gebiet zusammen. Die Tschechische Republik versucht, es zu erfüllen (Strategiedokument – rote Note.), wie wirkungsvoll, das ist die Debatte um die Verteilung von Geldern für Wissenschaft und Forschung.

Das Problem ist also jBin ich finanziell?

Das Problem ist die Verteilung der Mittel und die Zielsetzung. Das Setzen von Zielen ist im Allgemeinen ein großer Stolperstein in der Tschechischen Republik. Die Tschechen haben sich viel Mühe gegeben, aber es ging darum, die Ziele festzulegen, die unsere Mannschaft anstrebte.

Stimmt es, dass unnötige Regulierungen die Technologieentwicklung behindern und damit unsere Wettbewerbsfähigkeit mindern?

Ja, schlechte Vorschriften bremsen uns aus. Zum Beispiel inländische Meinungen darüber, warum sie völlig fehl am Platz sein sollten, nicht auf realen Daten, realen Situationen basieren, nicht über Auswirkungen nachdenken, weil die Schöpfer sie nicht in die Sprache übersetzen konnten. Technologie. Das sieht wunderschön aus während Mark Zuckerbergs Verhör (Facebook-Gründer – rote Note.) im Kongress. Manche stellen gute Fragen, aber er kann völlig neutral im Zickzack fahren, weil er in Worten spricht, die in der Technik etwas anderes bedeuten.

Es ist unmöglich, eine einzelne Komponente, eine einzelne Codezeile in der Technologie zu deaktivieren. Es gibt ein Konzept der „zukunftssicheren Regulierung“, aber es ist schwierig, es zu regulieren, weil wir es nicht gewohnt sind, Daten zu erheben, zu sehen und vorherzusagen, was passieren wird.

Würde es helfen, wenn in Tschechien ein ähnliches Fachgebiet geschaffen würde, wie Sie es in Oxford studiert haben?

Dies ist kein Feld. Wir haben hervorragende IT-Experten, aber sie sind unterfinanziert. Gefragt sind vor allem Qualitätsmanager, die in der Lage sind, Probleme zu erkennen und mit scharfem Blick für ihre Lösungen zu kämpfen. Ich nenne die Slowakei als Beispiel, wo es uns gelungen ist, Leute aus den Top-Unternehmen für die Regierung zu gewinnen. Ein weiteres Problem besteht darin, dass das meiste Geld für Technologieentwicklung und technische Ausbildung ausgegeben wird, nicht für die Entwicklung von Vorschriften.

Der Anteil der Ausgaben für Wissenschaft und Forschung ist gering und steigt trotz EU-Initiativen nicht. Wir haben uns noch nicht einmal darum gekümmert, Daten in der Tschechischen Republik zu speichern. Und ohne sie geht es nicht: Wenn wir die Daten nicht kennen, können wir nicht für die Zukunft planen. Es ist, als ob Sie nicht wüssten, wie viel Sie verdienen und planen, wie Sie leben werden.

Und wer soll die Sammlung durchführen?

Die staatliche Verwaltung weiß, welche Daten benötigt werden, das tschechische Statistikamt bewahrt einige davon auf. Nicht mit ihnen zu arbeiten, ist eine andere Sache. Unternehmen haben viele Daten, aber sie müssen von Wissenschaftlern geprüft oder recherchiert werden, damit die Ergebnisse relevant werden. Es fehlt an Kooperationen zwischen Staat und Wissenschaft und Wirtschaft.

Deshalb haben Sie 2018 die Denkfabrik gegründet Internet Institut?

Angemessen. Leider haben wir in den ersten zwei Jahren nur dem Gesetzgeber erklärt, dass er sich mit dem Recht in der Technik befassen muss, denn nur das Recht kann die Bürger schützen. Im Ausland werden ähnliche Initiativen stark vom Staat oder von Universitäten finanziert. Eines unserer Ziele ist es, zumindest einen grundlegenden Hintergrund für die Forschung in diesem Bereich zu schaffen. Außerdem haben wir in Zusammenarbeit mit Livesport einen Trainingskurs für die Community vorbereitet.

Kommen wir zur Rolle des Militärs bei all dem. Anfang 2020 treten Sie in die aktive Reserve ein Befehls- und Informationsoperationen der Cyber ​​​​Force. Was denkst du?

Es war nicht meine Idee, sie haben mich selbst angerufen. Ich unterrichte für NUKIB, sie beobachten mich dort. Ich denke, aktiver Aufstieg ist eine großartige Initiative, um Experten zu engagieren, die nur schwer ein Militärgehalt verdienen könnten.

Cyber ​​​​Forces dieser Form wurden kürzlich gebildet, 2019 bzw. 2020. Was wird jetzt angegangen?

Ja, sie sind eine neue Kraft, die auf die Bedürfnisse und den Schutz der heutigen Gesellschaft reagiert. Nun, da das Hauptszenario festgelegt ist, was passieren kann und wie man darauf reagiert. Wir Experten bringen die neuesten Informationen aus unserem Fachgebiet, wir achten auf zukünftige und aktuelle Bedrohungen.

Welche Bedrohungen zum Beispiel?

Ich werde dies allgemein sagen, wie es auf der ganzen Welt gehandhabt wird. Einige Staaten organisieren auf organisierte Weise Desinformationskampagnen, nicht nur China, aber es gibt viele. Einige verstecken es besser und andere schlechter. Hinzu kommen Cyberangriffe auf „Kabel“, Lecks oder Überlastungen der Infrastruktur, die es unmöglich machen können, bestimmte Arten von Kräften zu mobilisieren.

Ich diskutiere den aktuellen Trend, Bürger durch Desinformation zu beeinflussen. Desinformation ist eigentlich eine klassische psychologische Operation, die es schon immer gegeben hat. In Deutschland zum Beispiel verteilte Amerika während des Zweiten Weltkriegs Kondome in XL-Größe, aber mit mittleren Markierungen, um deutsche Soldaten zu demoralisieren. Ich beschäftige mich also mit der klassischen psychologischen Chirurgie, die sich ins Online-Umfeld verlagert hat.

Welche Rolle spielt künstliche Intelligenz oder KI bei der Desinformation?

Groß! Stiefel spielen eine große Rolle bei der Verbreitung von Fehlinformationen. Bots sind einfache KI-basierte Programme, die entwickelt wurden, um menschliches Verhalten im Internet zu simulieren. Sie sind darauf programmiert, Fehlinformationen zu verbreiten und andere Benutzer von ihrer Wahrheit zu überzeugen.

Kann ich wissen, dass ich in einer Internetdiskussion mit einem Bot streite?

Man kann das versuchen, indem man sehr kontextbezogene Fragen stellt, aber gleichzeitig merkt der Schuh manchmal nicht, dass er mit dem anderen Schuh streitet, dann mischen sie sich ein und müssen abgeschaltet werden.

Aber sollte das Militär gegen Fehlinformationen eingreifen?

Ich denke, die Regierung sollte Fehlinformationen bekämpfen, indem sie mit dem Militär zusammenarbeitet. Die Lösung besteht darin, ein Zentrum zu haben, das darauf abgebildet wird.

Ein solches Zentrum existiert bereits beim Innenministerium, dem Zentrum für Terrorismusbekämpfung und hybride Bedrohungen.

Und was hat er getan?

Ich weiß es einfach nicht. Keine sichtbare Ausgabe.

Das war’s. Wir müssen den Kampf gegen Fehlinformationen in einem effektiven Zentrum vereinen, klare Ziele vorgeben, Budgets zuweisen und Experten einsetzen. Wir haben hier talentierte Leute, die das auf globaler Ebene tun können, wie Semantic Visions, wir müssen sie nutzen.

VIDEO: Die Regierung spricht nicht mit einer Stimme, versteht Fehlinformationen nicht und gibt ihnen kein Gewicht, sagt František Vrabel.

Der Minister war noch nie in einer Situation wie der Coronavirus-Pandemie. Es gibt keine strategische Kommunikation, das Ministerium versteht die Fehlinformationen nicht. | Video: Daniela Drtinova

Senta Esser

"Internetfan. Stolzer Social-Media-Experte. Reiseexperte. Bierliebhaber. Fernsehwissenschaftler. Unheilbar introvertiert."

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.