Fake News, Deepfake, Fake People: die neue Grenze der Cybersicherheit

(Di Carlo Mauceli)
14/07/21

Während des Lockdowns im letzten Jahr begann ich, einen Artikel zu schreiben, der nie ans Licht kam und dessen Ziel es war, die Menschen zum Nachdenken über das Phänomen anzuregen gefälschte Nachrichten Ich hatte die Kühnheit, diese mit den invasivsten Cyber-Bedrohungen der letzten Jahre in Verbindung zu bringen.

Wenn in den verschiedenen Berichten zu Cyber-Bedrohungen der Punkt „Fake News“ eingeführt würde, käme man sicher zu sehr interessanten Zahlen, die wahrscheinlich höher sind als die der Phishing, zum Beispiel, der laut dem neuesten Clusit-Bericht der am häufigsten verwendete Angriffsvektor überhaupt ist.

Der Artikel begann mehr oder weniger so:

Da ich für ein amerikanisches Unternehmen arbeite, wird der Begriff „Storytelling“ seit einiger Zeit sehr häufig verwendet. Überraschend, vielleicht nicht allzu sehr, ist, dass es in Italien trotz einer so schönen Sprache voller Begriffe auf allen Ebenen übliche und etablierte Praxis ist, sich auf ausländische Begriffe zu verlassen, am häufigsten auf Englisch. Ich muss jedoch sagen, dass dieses Wort etwas Besonderes hat, etwas, das ich nicht beschreiben kann, das aber beim Zuhörer eine Art Staunen und Erstaunen hervorruft, sobald es hervorgerufen wird. Verwenden Sie es einfach, um eine Argumentation, ob gültig oder nicht, ausgeschmückt erscheinen zu lassen, und wie von Zauberhand leuchten die Gesprächspartner auf, als ob das tiefgründigste Konzept, das jemals ausgedrückt wurde, zum Ausdruck kam.

Mittlerweile ist es so weit verbreitet, dass wir ihm nicht einmal mehr Beachtung schenken, so sehr, dass wir vielleicht aufgehört haben, uns wirklich zu fragen, was wir meinen, wenn wir über Geschichtenerzählen sprechen, oder wir wissen, wovon wir reden, aber aller Wahrscheinlichkeit nach haben wir es vergessen.

Während des Coronavirus-Notfalls ist unsere Rolle klar. Es wurde uns empfohlen „Befehle befolgen“ und unseren Teil dazu beizutragen, indem wir die Regeln respektieren, denn schließlich sollte dies immer in einem demokratischen und gemeinschaftlichen Kontext geschehen. Meine Handlungen wirken sich nicht nur auf mich selbst aus, sondern auch auf die Menschen um mich herum und mit denen ich interagiere, und ganz im Gegenteil.

Doch während dieser noch nie dagewesenen Erfahrung haben wir eine etwas asymmetrische Haltung gegenüber denen, die versuchen, sich der Notsituation zu stellen und sie zu lösen, und wir können nichts anderes tun, als zu gehorchen und zu vertrauen.

Und hier ist das Schlüsselwortdem Vertrauen. Schauen wir uns an, was Treccani uns zu diesem sehr wichtigen Begriff sagt.

vertrauen sf [von lat. Vertrauen, der. di fidĕre „vertrauen, sich anvertrauen“] (pl., selten, -cie).

Haltung gegenüber anderen oder sich selbst, die sich aus einer positiven Bewertung von Tatsachen, Umständen, Beziehungen ergibt, bei der man anderen oder den eigenen Möglichkeiten vertraut und die im Allgemeinen ein Gefühl von Sicherheit und Ruhe hervorruft: f. in Gott, in den Menschen, in der menschlichen Brüderlichkeit, in der Wissenschaft, im sozialen Fortschritt; F. im Sieg; F. erfolgreich sein; F. im eigenen Stern, in der eigenen Kraft; F. im Ergebnis eines Geschäfts; schau mit f. in die Zukunft; stoppt f.; F. unbegrenzt, absolut, bedingungslos; haben, füttern f.; das f verlieren; ein Zertifikat vorlegen, einen Nachweis über f.; inspirieren f.; verdienen, verdienen, genießen, das f haben. jemandes; Setzen Sie Ihr f. gut oder schlecht; missbrauche das f. Andere. Von Nutzen com. die Ausdrücke: Leute von f., von mir, von dir, von seiner f., vertrauenswürdige Menschen, an die man sich in heiklen und wichtigen Angelegenheiten wendet; Arzt, Anwalt von f., der vom Mandanten frei und gewöhnlich gewählt wird; Ort, Beschäftigung, Job von f., von Verantwortung, heikel, der nur auf sichere, vertrauenswürdige Menschen angewiesen ist. 

Im Verfassungsrecht Abstimmung von f., Abstimmung, mit der das Parlament die politischen Leitlinien und das entsprechende Vorgehen der Regierung billigt (oder bei negativem Ergebnis ablehnt); f. Antrag, der Vorschlag einer der Kammern, eine Vertrauensabstimmung durchzuführen; Frage von f., Antrag der Regierung, das Vertrauensvotum für die Genehmigung oder Ablehnung von Änderungsanträgen und Gesetzentwürfen zu nutzen: Die Regierung hat beschlossen, die Vertrauensfrage zu stellen. 

Im Zivilrecht, f. Testamentarische Verfügung (oder treuhänderische testamentarische Verfügung), eine Testamentsverfügung, bei der die Person, die den Vermögenswert erhält, der offensichtliche Begünstigte ist und verpflichtet ist, diesen Vermögenswert an eine andere Person zu übertragen (die normalerweise nicht der direkte Erbe des Erblassers sein kann).

Vertrauen ist ein „schweres“ Wort, das weitreichende Szenarien umfasst und eine wichtige Verantwortung für diejenigen darstellt, die es geben und für diejenigen, die es empfangen.

Das heißt, wir müssen denen vertrauen, die mit vielen Schwierigkeiten versuchen, sich einem Problem zu stellen, auf das niemand vorbereitet war. Deshalb müssen wir Vertrauen in die zentralen Institutionen haben, in die lokalen Verwaltungen, in die Ärzte, in die Wissenschaftler und nicht zuletzt in diejenigen, die uns erzählen, was passiert, also Journalisten und Moderatoren. 

Vertrauen... müssen wir es bedingungslos haben, besonders angesichts der Welt, in der wir leben? Eine Welt, in der wir täglich mit einer enormen Menge an Nachrichten bombardiert werden, die alles und das Gegenteil sagen?

Das ist vielleicht der entscheidende Punkt: Kommunikationsmanagement.

Sowohl seitens der Institutionen als auch der Medien hat die Art und Weise, wie wir kommuniziert haben, insbesondere zu Beginn der Pandemie zu einem Durchsickern von Nachrichten geführt, die zu tiefgreifenden Diskussionen, aber auch zu irrationalen Reaktionen gegenüber allem und jedem geführt haben, beginnend mit der berühmten Episode über diejenigen, die die Bahnhöfe im Norden überfüllten, um in den Süden zu fliehen, so sehr, dass uns im Laufe der Tage klar wurde, dass eine solche irrationale Reaktion immer noch durch eine ebenso unverantwortliche Geste ausgelöst wurde.

Daher schien es eine Gelegenheit gegeben zu haben, darüber nachzudenken, wie parallel zu den medizinischen Bemühungen das Coronavirus kommunikativ bekämpft werden sollte und könnte, wobei genau auf a Storytelling des Notfalls.

Stattdessen wurde die Erzählung der Krise auf der Grundlage von Begriffen, Praktiken und Gewohnheiten fortgesetzt, die die Kommunikation leider schon seit einiger Zeit, lange vor der Ausbreitung von Covid-19, negativ geprägt haben.

Il Sensualismus, die grobe Analyse, das hastige Suche nach Gut und Bösevon Helden und Feinden des Landes. In einer Zeit, in der die Italiener nichts anderes tun können, als dem zu vertrauen, was ihnen gesagt wird, ist die Verwirrung er ist gut auch für die Fehlinformation Sie haben sich genauso weit verbreitet wie das Virus, was die Kommunikation immer schwieriger macht und die Möglichkeit, endlich eine qualitativ hochwertige Erzählung vorzuschlagen, die so wichtig ist wie nie zuvor, fast zunichte macht.

Und das alles, weil heute das Lesen, Vertiefen und Erforschen des Wahrheitsgehalts der Nachrichten das Privileg einiger weniger ist, während die Mehrheit der Menschen einerseits den politischen Krämern und parteiischen Journalisten zuhört, die einerseits Stimmen sammeln, andererseits die öffentliche Meinung beeinflussen Andererseits nutzt er die Kommunikation auch in einer so kritischen Situation wie dieser parteiisch und instrumentell.

All dies fällt, ob es Ihnen gefällt oder nicht, in die Kategorie gefälschte Nachrichten.

„Fake“ oder „Fake News“ sind nach wie vor Begriffe, die dem Ausmaß des Phänomens, das wir erleben, nicht gerecht werden, weil es richtiger wäre, davon zu sprechen Manipulation oder Fehlinformation Dabei handelt es sich zweifellos um neue Konzepte, die aber im Vergleich zur Vergangenheit um weitere Implikationen bereichert sind.

Nachdem man festgestellt hat, dass mittlerweile die Mehrheit der Bevölkerung unabhängig von der Bedeutung des Themas am liebsten jede Art von Informationen aus den „sozialen Medien“ erfährt, lässt sich feststellen, dass zu den Hauptrisiken solche gehören, die als gültige Informationen angesehen werden können, die aber eindeutig falsch sind.

Diese Situation wird durch die sogenannte „Backfire-Effekt“ das heißt, das Phänomen, nach dem „Wenn Sie falsche, aber bereits konsolidierte Informationen bestreiten, bestätigen Sie diese am Ende noch mehr, weil Sie leider nicht bereit sind, Ihre Meinung zu ändern.“.

Wir können sagen, dass alle kulturellen Bereiche der heutigen Gesellschaft Opfer von „Fake News“ sind, auch wenn die Konzentration offenbar am stärksten auf wissenschaftlichen Inhalten liegt.

Der persönliche Standpunkt ist, dass Desinformation in diesem Bereich einen fruchtbaren Boden für die Verbreitung findet, da sie hauptsächlich auf der Unkenntnis der Grundkonzepte beruht.

Die Tatsache, dass die wissenschaftliche Sprache äußerst spezifisch ist, ermöglicht es denjenigen, die Desinformation verbreiten, sofortigen und beträchtlichen Erfolg zu erzielen, was sich negativ auf die akademische Welt auswirkt und Gefahr läuft, an Glaubwürdigkeit zu verlieren. Sinnbildlich ist auch, dass bei Unwahrheiten im Gesundheitsbereich die Gefahr besteht, dass der verursachte Schaden irreparabel wird.

Viele Studien wurden in diesem Zusammenhang durchgeführt und es zeigt sich, dass viele davon überzeugt sind, die Rolle von „Tech-Unternehmen“ als zentrale, technologische Unternehmen zu definieren, die weit davon entfernt sind, als einfache „Plattformen“ zu fungieren, sondern eine Rolle spielen, die eher den Merkmalen und Anforderungen von Unternehmen entspricht.

Die große Macht dieser Unternehmen endet nicht mit dem Hochladen von Inhalten auf eine Plattform, sondern wächst im Gegenteil dank der selektiven und pünktlichen Kontrolle dessen, was wir sehen, da dies genau ihr Geschäftsmodell ist.

Und das ultimative Ziel bleibt, wie auch bei der Politik, die Vergrößerung ihres Nutzerpublikums, glättet sein Haar, um einen etwas „französischen“ Euphemismus zu verwenden, der den Informationsfluss trotz seiner vermeintlichen Neutralität verändert.

Zu diesem Zweck nutzen sie in großem Umfang hochentwickelte Algorithmen, Datenanalyse-, Datenabgleichs- und Profilierungstechniken, dank derer eine große Menge an gesammelten Informationen verarbeitet und an Dritte weitergegeben wird, ohne dass die interessierten Parteien häufig oder ohne deren Zustimmung zugestimmt haben; Daten, die zusammen mit der Sammlung für die Werbeförderung und das Micro-Targeting über soziale Medien verwendet werden.

I bot Sie sind ein weiteres Werkzeug, das auf bemerkenswerte Weise eingesetzt wird. Wie wir wissen, handelt es sich dabei um Programme, die über dieselben Kanäle auf das Netzwerk zugreifen, die auch menschliche Benutzer verwenden, und die es unter anderem durch spezifische Algorithmen ermöglichen, präzise Aufgaben wie Daten auszuführen kratzen e Web-Scraping die dazu führen, dass auf einer bestimmten Seite vorhandene Daten und Informationen extrahiert werden, um sie in anderen Kontexten zu verwenden.

Auf dem virtuellen Marktplatz werden falsche oder falsche Informationen, sei es kommerzieller oder politischer Art, versteckt und auf der Grundlage der von Mächtigen gesammelten Daten an eine Mikrozielgruppe von Menschen gesendet Web-Marketingohne dass die interessierten Parteien davon Kenntnis haben.

Immer häufiger wird die „öffentliche Debatte“, die sich um hochkomplexe und schwer zu lösende Fragen rund um die Zukunft aller dreht, verzerrt und in echte Kampagnen verwandelt Einwilligungsmarketing, bestehend nur aus Slogans, die den öffentlichen Raum füllen.

Grundsätzlich ist die Tech-Unternehmen Sie werden auch aus wirtschaftlicher Sicht dazu angeregt, aufsehenerregenden Inhalten den Vorrang zu geben, da diese eher Aufmerksamkeit erregen und die Polarisierung und Radikalisierung von Debatten begünstigen.

Es herrscht das Gefühl, dass die auf den Plattformen kursierenden Desinformationen das Ergebnis eines Projekts sind, das von Akteuren organisiert und durchgeführt wird, die einige Grundprinzipien der digitalen Wirtschaft sehr gut verstanden haben, mit denen sich enorme Werbeeinnahmen erzielen lassen.

All dies grassierte weiterhin, sodass die wichtigsten digitalen Plattformen im Oktober 2018 einen „Verhaltenskodex“ zur Bekämpfung von Desinformation im Internet unterzeichneten. Dies ist ein Anfang, aber es stellt einen grundlegenden Schritt im Kampf gegen ein Problem dar, das möglicherweise das Vertrauen der Bürger in die Institutionen gefährden kann, wie in der EU bekräftigt wird.

Ziel der Europäischen Union ist es unter anderem, auf freiwilliger Basis ein Paket von Selbstregulierungsregeln zu verwalten, die geeignet sind, Desinformation im Internet zu bekämpfen.

Tatsächlich hat sich jedes Webunternehmen durch den Beitritt zu diesem Projekt Regeln zur Bekämpfung von Desinformation in allen EU-Mitgliedstaaten gegeben.

Aus all dem lässt sich ableiten, dass sich Information in „Kommunikation“ verwandelt hat und dass sich gleichzeitig Desinformation entwickelt hat, die zweifellos ein komplexes und sich ständig veränderndes Phänomen darstellt und als neue Waffe für politische, wirtschaftliche oder militärische Zwecke eingesetzt werden kann.

Heutzutage gibt es so viele und hochentwickelte Desinformationstechniken, dass sie eine Bedrohung für die Sicherheit und Stabilität eines Landes darstellen. Aus diesem Grund habe ich, wie erwartet, die Kühnheit, dass wir sie als eins betrachten können Cyber-Bedrohung.

Es ist in der Tat kein Zufall, dass, wenn die Integrität und Stabilität eines Landes in Frage gestellt wird, auf die Geheimdienste zurückgegriffen wird, die eine grundlegende Rolle bei der Abwehr dieser Bedrohungsformen spielen. Auch die Geheimdienste selbst waren an einer Transformation interessiert, die dazu geführt hat, dass sie eine Konnotation annehmen, die den neuen Sicherheitsherausforderungen gewachsen ist.

Ohne näher darauf einzugehen, was unter Intelligenz zu verstehen ist, und im Bewusstsein, dass der Leser dies jedoch aus verschiedenen Quellen erfahren kann (v.link), gerade weil es notwendig ist, mit neuen hybriden und vor allem asymmetrischen Bedrohungen umzugehen, wird seine Rolle von grundlegender Bedeutung.

Geheimdienste sind eng mit dem internationalen Geschehen verknüpft, vor allem mit Blick auf die Machtverhältnisse zwischen Staaten, aber auch mit dem globalen Markt.

Dieser Zusammenhang gilt umso mehr, wenn wir an die Regionen der Welt denken, in denen es keine Konflikte traditioneller Art gibt, die aber unter Verwundbarkeitsphänomenen leiden, die auf wirtschaftliche Konflikte, fortgeschrittene Formen des Terrorismus unterschiedlicher Herkunft und Angriffe zurückzuführen sind, die mit neuen Methoden durchgeführt werden, die spezifische Formen der Aufklärung erfordern.

Die traditionellen „Sicherheitsbedrohungen“ haben sich zu komplexeren Cyberbedrohungen entwickelt, die von Akteuren ausgehen, die sich grundsätzlich in zwei Makrogruppen einteilen lassen:

- Regierungsakteure die sehr strukturiert und aufgrund der Tatsache, dass sie über enorme wirtschaftliche und personelle Ressourcen verfügen, äußerst gefährlich sind. Wir können die von ihnen verursachten Bedrohungen in zwei Klassen einteilen: Cyber-Krieg Das ist eine Art digitale Kriegsführung und Cyberspionage vertritt digitale Spionage.

- nichtstaatliche Akteure Zu welchen Terrorgruppen gehören (Cyber ​​Terrorismus), kriminelle Organisationen (Cyber-Kriminalität) und andere Akteure, die auf Einzelpersonen zurückzuführen sind, die von religiösen, politischen und ideologischen Impulsen bewegt werden.

All dies lässt vermuten, dass bei kriminellen Handlungen zunehmend technologisch fortgeschrittene Instrumente wie künstliche Intelligenz zum Einsatz kommen, deren Zweck es sein wird, die internationalen Beziehungen zu destabilisieren und sozusagen den Eindruck einer induzierten Sicherheit zu erwecken.

Eine mögliche Waffe ist die des „Deepfake“, basierend auf Prozessen, die die Prinzipien der künstlichen Intelligenz nutzen, um Bilder und Videos ausgehend von den Originalen zu modifizieren und zu überlagern, um andere zu erarbeiten, in denen die Probanden dank Techniken des maschinellen Lernens wie „Generative Adversarial Network“ Aktionen ausführen, sprechen und sich in absolut unwirklichen Kontexten bewegen.

Dann gibt es die "falsche Leute", Menschen, die in der Realität nicht existieren, aber die Protagonisten virtueller Videos sind, die je nach den von ihnen verfolgten Zielen starke Gefühle wie Wut, Misstrauen, Mitgefühl, Angst oder Unbehagen hervorrufen.

Die Entwicklung eines Cyber-Intelligenz Effektiv ist eine unbestreitbare Realität, die sich an die veränderten Szenarien anpassen muss, die auf der Analyse offener Quellen, der Verarbeitung großer Datenmengen und der Entwicklung von Techniken der künstlichen Intelligenz basieren, um Cyber-Kriegsführung zu begegnen und die Verteidigung der Gemeinschaft zu gewährleisten.

Von hier aus ist der Zusammenhang mit dem, was dieser Artikel hervorheben sollte, offensichtlich, nämlich: „Nachrichten“, „Informationen“ und „Desinformationen“ gelangen in das „Medien“-System und das „Geheimdienst“-System und durchdringen diese. Um zu verhindern, dass solche allgegenwärtigen Technologien das Kommunikations- und Informationssystem „explodieren“ lassen und unvorstellbare Auswirkungen auf die Gesellschaft selbst haben, ist es wichtig, dass der Geheimdienst eine zentrale Rolle bei der Gewährleistung der Sicherheit spielt.

Zusammenfassend haben wir es mit einem äußerst komplexen System zu tun, in dem es nahezu unmöglich ist, die Quelle einer Nachricht festzustellen oder ihren Wahrheitsgehalt zu überprüfen. Das liegt daran, wer generiert gefälschte Nachrichten neigt dazu, jede Meinung oder Meinung zu einem bestimmten Thema auf die gleiche Ebene zu stellen, mit dem Ergebnis, dass sich jeder wie ein „Top-Experte“ fühlt. Die Tatsache wird jedoch durch die sozialen Medien extrem verstärkt.

Das Drama ist das Angesichts all dessen ist die Mehrheit der Nutzer hilflos auch und vor allem dadurch, dass sie inzwischen alle Nachrichten akzeptieren, die ihnen Zeitungen, Fernsehen oder soziale Netzwerke bieten.

Es scheint eine düstere Ähnlichkeit zu bestehen zwischen den Zeiten, in denen sich die Zensur unabhängig von der politischen Macht des Landes, in dem sie tätig war, mit der Blockierung von Informationen befasste, und den heutigen Zeiten, in denen andere Machtorgane eine große Menge nutzloser und irrelevanter Informationen sichten, auswerten, modifizieren und konstruieren und den Empfänger dieser Informationen, d. h. den durchschnittlichen Benutzer, der leider nicht widerstehen kann, verwirren und manipulieren.

Ich denke, dass es an dieser Stelle unerlässlich ist, in ein modernes und effektives System zu investieren Cyber-Intelligenz in der Lage, Fähigkeiten zu entwickeln Cyber-Gegenspionage Das geht über die bloße Verteidigungsrolle hinaus und ist im Gegenteil viel proaktiver und zielt darauf ab, auch bei Angriffen und Simulationen in der Cyber-Dimension agieren zu können, deren Zweck möglicherweise darin besteht, die in diesem Szenario nach und nach auftretenden Gegner zu behindern.

Last but not least, und wir werden nicht müde, es zu betonen, müssen wir in die Schulung aller Anwender zu einem wachsenden Bewusstsein für IT-Sicherheit investieren, damit immer größere und immer komplexere Risiken erkannt, analysiert und angegangen werden können.

Um mehr zu erfahren:

Papst Franziskus: „Technologien sind ein Geschenk, nutzen Sie sie richtig“ – CorCom (corrierecomunicazioni.it)

Geheimdienst – Informationssystem für die Sicherheit der Republik (sicurezzanazionale.gov.it)

Schutz der Menschenrechte im Zeitalter des CyberkriegsErste Seite | Erste Seite

Web und Desinformation: die Rolle der Intelligenz (diricto.it)

Fake News: die neue Ära der Cyberkriegsführung | Tritium-Beratung

Deepfakes und manipulierte Videos: Wie die dunkle Seite der künstlichen Intelligenz funktioniert – Il Sole 24 ORE

Was ist der Backfire-Effekt, der uns daran hindert, unsere falschen Überzeugungen zu ändern – Wired

Adversarial Generative Network – Wikipedia

Fake-Menschen, was sie sind und warum man sie im Auge behalten sollte | Die Bo Live UniPD

Foto: US Air National Guard / Büro des Premierministers / Twitter / Web