Cortana, was passiert, wenn "le" gebeten wird, eine Mission bis zum Äußersten auszuprobieren?

(Di Enrico Secci)
16 / 09 / 19

Cortana, künstliche Intelligenz von Microsoft mit einem Namen, der von einer Halo-Videospielfigur entlehnt wurde. Was passiert, wenn "Sie" gebeten werden, sich an einer Mission bis zum Äußersten zu versuchen?

Noch vor fünf Jahren wurde Cortana geboren, Microsofts digitaler Assistent, der geschickt programmiert ist, um schnell auf die Anforderungen immer anspruchsvollerer Benutzer zu reagieren. Heute ist er ein Redner mit einem ausgeklügelten Verstand, subtilem Humor und einer natürlichen Veranlagung, Benutzern zu helfen.

Was diese hochentwickelte künstliche Intelligenz am meisten auszeichnet, ist ihre ausgeprägte Menschlichkeit. Daniela ist eine Inhaltseditor e Texter welche Freunde scherzhaft Cortana nennen. Sie ist eine der Personen, die hinter der italienischen Version von Microsofts digitalem Assistenten stecken Cortana Internationales Team und zusammen mit seinen Kollegen aus der ganzen Welt arbeitet er an der Persönlichkeit der künstlichen Intelligenz von Microsoft und an seinen Konversationsfähigkeiten.

In der Praxis werden kreative redaktionelle Inhalte erstellt und es wird sichergestellt, dass die Leute Spaß daran haben, mit Ihnen zu sprechen. Seine Aufgabe ist es auch, Cortanas Intelligenz ständig durch ein kontinuierliches Update zu ernähren, das es ihr ermöglicht, sich mit dem Benutzer in Übereinstimmung mit ihrer Persönlichkeit zu unterhalten. Eine Persönlichkeit, die sich aus vier grundlegenden Eigenschaften zusammensetzt: Verfügbarkeit, Unparteilichkeit, positive Einstellung und Spontaneität.

Es ist von grundlegender Bedeutung zu betonen, dass auch die lokale Kultur die Persönlichkeit von Cortana stark beeinflusst. Die englische Fassung zum Beispiel kann unmöglich mit der italienischen übereinstimmen. In dieser Hinsicht steht Cortana im Einklang mit dem regionalen Geist, der viele Dialekte beherrscht und solide ist Hintergrund im Zusammenhang mit Verwendungen, Bräuchen. Er kennt die Hymne von Mameli und unterstützt die italienische Fußballnationalmannschaft, auch wenn sie die Weltmeisterschaft nicht erreicht.

Aber wie kann man eine effiziente Programmierung ohne logische Widersprüche mit dem "menschlichen" Verhalten eines Fußballfans in Einklang bringen, der immer positiv, verfügbar und spontan ist? Was passiert, wenn sich der menschliche Geist hinter künstlicher Intelligenz verbirgt?

Einige "seltsame" Verhaltensweisen in der Vergangenheit (jetzt "gepatcht") sind bereits aufgetreten. Mit den "richtigen Fragen" an den Windows-Sprachassistenten konnte eine infizierte Site im Browser auch ohne Authentifizierung mit einem Kennwort geöffnet werden.

Wie die McAfee-Forscher erklären, die die Angriffstechnik entwickelt haben, lag das Problem daran, dass der Windows-Sprachassistent auch bei gesperrtem Computer aktiv blieb und auch ohne Authentifizierung mit einem Kennwort oder einer PIN verwendet werden konnte. Das Szenario wurde noch beunruhigender, als die Möglichkeit der Verwendung eines USB-Sticks zum Entsperren des PCs demonstriert wurde. Diese Reihe von Kombinationen kann möglicherweise zu einer Zunahme von Hackerangriffen auf Computer führen, die alle miteinander verbunden sind.

Tatsächlich greifen die Männer die Systeme der Künstlichen Intelligenz an und nicht umgekehrt, wie wir es von Science-Fiction-Filmen erwartet hätten.

Aber um was zu tun? Ändern Sie die Algorithmen der Suchmaschine, um die Suchergebnisse zu bearbeiten Social Mediadas Rang und der Ruf von Websites, den Flug von Drohnen zu stören oder ein selbstfahrendes Auto zu täuschen.

Und so hat der böswillige Einsatz von Instrumenten der künstlichen Intelligenz, anders als wir es uns erhofft hatten, nicht bei der Erstellung ausgefeilter Desinformationskampagnen Halt gemacht.

Der Alarm kommt aus einem Bericht des europäischen Projekts Sherpa, die sich den Menschenrechten und der künstlichen Intelligenz widmen und aufzeigen, wie einzelne Kriminelle und organisierte Hacker ein neues Ziel bei der Bekämpfung "intelligenter" Systeme gefunden haben, bis hin zu Fällen, in denen algorithmische Governance verborgene Interessen priorisieren und Unternehmen Schaden zufügen kann Manipulieren von Daten und Informationen online oder Begünstigen von Regierungsparteien durch Beeinflussung der politischen Debatte durch gefälschte Nachrichten.

Aber wie ist der Stand der KI?

Vor ein paar Tagen hat ein fortgeschrittenes KI-System einen wissenschaftlichen Test der dritten Stufe bestanden und dabei 90-Prozent der Fragen richtig beantwortet. Das Ergebnis wurde erhalten von Aristo, eine vom Allen Institute for Artificial Intelligence in den USA produzierte KI, die erneut den raschen Fortschritt auf dem Gebiet der künstlichen Intelligenz demonstriert. Hunderte von Forschungsinstituten auf der ganzen Welt arbeiten an Systemen wie Aristo und in kurzer Zeit erzielten sie Ergebnisse, die noch vor einem Jahrzehnt unerreichbar schienen. Die gesteigerte Rechenleistung von Computern und die Weiterentwicklung von Katalogisierungs- und Datenlernsystemen haben es ermöglicht, große Fortschritte zu erzielen und die Programmierzeiten zu verkürzen.

Und während wir uns alle ein bisschen Sorgen machen über "das Aufkommen der Singularität", den Moment, in dem nach Ansicht von Wissenschaftlern wie Ray Kurzweil künstliche Intelligenz mit menschlicher Intelligenz übereinstimmt, wir nicht erkennen, dass die grundlegenden Techniken, die jetzt nur einige Funktionen emulieren menschliche kognitive, werden für schädliche Zwecke verwendet, sind jeden Tag in der Lage, all jene Systeme zu untergraben, die wir gegen Computereingriffe, medizinische Diagnosen, Wasserversorgung bis hin zu den Betrugsbekämpfungssystemen der Banken einsetzen.

Andy Patel, Forscher am Kompetenzzentrum für künstliche Intelligenz bei F-Secure, Partner des Sherpa-Projekts, erklärt: "Die Leute identifizieren fälschlicherweise künstliche Intelligenz mit menschlicher Intelligenz und ich denke, deshalb assoziieren sie die KI-Bedrohung mit Killerrobotern und außer Kontrolle geratenen Computern. Aber menschliche Angriffe gegen KI kommen die ganze Zeit vor." Ein beliebtes Beispiel für diesen Angriff ist die Manipulation von Suchmaschinen-Rankings oder Reputationssystemen, um bestimmte bezahlte Inhalte zu bewerben oder zu "verbergen" oder nicht. Diese Angriffe können jedoch auch für das Social Engineering von Personen in Angriffsszenarien verwendet werden, die sich an öffentliche Entscheidungsträger richten.

Der Sherpa-Bericht stellt fest, dass Techniken der künstlichen Intelligenz verwendet werden, um äußerst realistische schriftliche, akustische und visuelle Inhalte zu erzeugen. Dies ist der Fall bei Deep Fake-Videos, vollständig gefälschten Clips, dank denen es möglich ist, ausgehend von einer Fernsehaufnahme den Mund eines Sprechers nachzuahmen, um ihn dazu zu bringen, Dinge zu sagen, von denen er niemals träumen würde. Welchen Nutzen kann es haben? Zum Beispiel, um Beweise zu manipulieren, eine diplomatische Krise auszulösen und einen Konkurrenten zu täuschen. Der böswillige Einsatz künstlicher Intelligenz gehört bereits zu uns, ohne sich einen Killer wie den des Films Terminator vorstellen zu müssen. Aus diesem Grund schlagen die Forscher vor, intelligente und sichere Systeme sofort zu entwerfen.

Microsoft-Programmierer haben seit langem das Potenzial eines Angriffs erkannt, der Systeme mit künstlicher Intelligenz ausnutzt, die wie jeder gute Assistent die natürliche "Neigung haben, uns zu helfen". Tatsächlich haben sie im Laufe der Zeit versucht, ihre Handlungsfähigkeit einzuschränken und weiteres Fachwissen zu erwerben Englisch: www.germnews.de/archive/dn/1996/03/27.html Von der "Konkurrenz" ist die Einstellung des ehemaligen Apple - Vizepräsidenten Bill Stasior nicht unbemerkt geblieben, eine Operation ging an die Presse als a von Siri nach Cortana. Dies zeigt, dass wir endlich ernst nehmen, dass die volle Kontrolle über eine künstliche Intelligenz nicht gleichbedeutend mit Sicherheit ist.

Bis heute ist es nicht erforderlich, ein erfahrener Hacker zu sein, um ein System zu verletzen und Informationen zu erhalten oder illegalen Zugriff zu erlangen. Es reicht aus, die menschliche Natur zu kennen, die hinter der kalten Logik der Programmierung steckt, und zu wissen, wie man die richtige Frage stellt.

Quellen:
https://convcomp.it/cortana-quando-la-mente-umana-si-nasconde-dietro-lin...
Cortana: Wenn sich der menschliche Geist hinter künstlicher Intelligenz versteckt
https://securingtomorrow.mcafee.com/other-blogs/mcafee-labs/want-to-brea...
Möchten Sie in ein gesperrtes Windows 10-Gerät einbrechen? Fragen Sie Cortana (CVE-2018-8140)
https://www.fastweb.it/web-e-digital/un-bug-di-cortana-rende-inutile-la-...
So greifen Sie mit Cortana auf einen kennwortgeschützten Computer zu
Wie können Angreifer künstliche Intelligenz missbrauchen? https://t.co/Q3yHHlGNJk - @project_sherpa @FSecure @ r0zetta # cybersecurity # AIpic.twitter.com / r7vXv2RCgZ
TGP: //www.repubblica.it/tecnologia/sicurezza/2019/07/18/news/perche_gli_umani _...
Von Siri zu Cortana: Microsoft stellte den ehemaligen Apple-Vizepräsidenten Bill Stasior ein
https://www.tomshw.it/business/dallassistenza-di-siri-a-quella-di-cortan...
https://www.macitynet.it/da-siri-a-cortana-microsoft-ha-assunto-lex-vice...
https://www.ilpost.it/2019/09/05/aristo-intelligenza-artificiale-test-sc...
Ein künstliches Intelligenzsystem (KI) hat einen wissenschaftlichen Test der dritten Stufe bestanden und dabei 90-Prozent der Fragen richtig beantwortet
https://www.securityinfo.it/2018/08/16/violare-windows-in-stato-di-blocc...

Windows im gesperrten Zustand verletzen? Fragen Sie Cortana