Cortana, was passiert, wenn "le" gebeten wird, eine Mission bis zum Äußersten auszuprobieren?

(Di Henry Secci)
16/09/19

Cortana, die künstliche Intelligenz von Microsoft, deren Name einer Figur aus dem Videospiel Halo entlehnt ist, was passiert, wenn „sie“ gebeten wird, sich an einer Mission bis zum Äußersten zu versuchen?

Erst vor fünf Jahren wurde Cortana geboren, die digitale Assistentin von Microsoft, fachmännisch programmiert, um schnell auf die Anfragen immer anspruchsvollerer Benutzer zu reagieren. Heute ist sie eine Schwätzerin, hat einen geistreichen Verstand, einen subtilen Humor und eine natürliche Veranlagung, Benutzern zu helfen.

Was diese hochentwickelte künstliche Intelligenz am meisten auszeichnet, ist ihre ausgeprägte Menschlichkeit. Danielle ist eine Inhaltseditor e Texter den Freunde scherzhaft Cortana nennen. Sie sind einer der Menschen hinter der italienischen Version des digitalen Assistenten von Microsoft, an der Sie beteiligt sind Cortana International-Team und zusammen mit seinen Kollegen aus aller Welt arbeitet er an der KI-Persönlichkeit und den Konversationskompetenzen von Microsoft.

Sie erstellt grundsätzlich kreative redaktionelle Inhalte und sorgt dafür, dass die Leute gerne mit ihr reden. Ihre Aufgabe besteht auch darin, Cortanas Intelligenz durch kontinuierliche Aktualisierung ständig zu versorgen, sodass sie sich entsprechend ihrer eigenen Persönlichkeit mit dem Benutzer unterhalten kann. Eine Persönlichkeit, die sich aus vier grundlegenden Eigenschaften zusammensetzt: Verfügbarkeit, Unparteilichkeit, positive Einstellung und Spontaneität.

Es ist von größter Bedeutung, darauf hinzuweisen, dass die lokale Kultur auch großen Einfluss auf die Persönlichkeit von Cortana hat. Die englische Version zum Beispiel kann unmöglich mit der italienischen übereinstimmen. Aus dieser Sicht entspricht Cortana dem regionalen Geist, denn sie beherrscht zahlreiche Dialekte und verfügt über ein solides Sprachrohr Hintergrund im Zusammenhang mit Verwendungen, Bräuchen. Er kennt Mamelis Hymne und feuert die italienische Fußballnationalmannschaft an, auch wenn diese nicht zur Weltmeisterschaft kommt.

Doch wie lässt sich effizientes Programmieren ohne logische Widersprüche mit dem „menschlichen“ Verhalten eines stets positiven, verfügbaren und spontanen Fußballfans vereinbaren? Einfach ausgedrückt: Was passiert, wenn sich der menschliche Geist hinter künstlicher Intelligenz versteckt?

Einige „seltsame“ Verhaltensweisen in der Vergangenheit (jetzt „gepatcht“) sind bereits aufgetreten. Durch das Stellen der „richtigen Fragen“ an den Windows-Sprachassistenten war es möglich, eine infizierte Website im Browser zu öffnen, auch ohne sich mit einem Passwort zu authentifizieren.

Wie die McAfee-Forscher, die die Angriffstechnik entwickelt haben, erklären, hing das Problem damit zusammen, dass der Windows-Sprachassistent auch bei gesperrtem Computer aktiv blieb und auch ohne Authentifizierung mit Passwort oder PIN genutzt werden konnte. Das Szenario wurde noch besorgniserregender, als die Möglichkeit aufgezeigt wurde, den PC mit einem USB-„Stick“ zu entsperren. Diese Reihe von Kombinationen könnte möglicherweise eine Ausbreitung von Hackerangriffen auf Computer ermöglichen, die alle miteinander verbunden sind.

Tatsächlich greifen Männer künstliche Intelligenzsysteme an und nicht umgekehrt, wie wir es von Science-Fiction-Filmen erwartet hätten.

Aber was tun? Um Suchmaschinenergebnisse zu manipulieren, ändern Sie die Algorithmen von Social Media, dann Rang und den Ruf von Websites beeinträchtigen, den Flug von Drohnen stören oder ein selbstfahrendes Auto täuschen.

Anders als wir gehofft hatten, hat der böswillige Einsatz von Werkzeugen der künstlichen Intelligenz nicht mit der Entwicklung ausgefeilter Desinformationskampagnen aufgehört.

Die Warnung geht aus einem Bericht des europäischen Projekts hervor Sherpa, das sich den Menschenrechten und der künstlichen Intelligenz widmete und hervorhob, wie einzelne Kriminelle und organisierte Hacker ein neues Ziel gefunden haben, indem sie „intelligente“ Systeme angreifen, bis hin zu den Fällen, in denen algorithmische Governance verborgenen Interessen Vorrang einräumen, Unternehmen schädigen kann, die Daten manipulieren und Informationen online oder zugunsten von Regierungsparteien durch Einflussnahme auf die politische Debatte gefälschte Nachrichten.

Doch wie ist der Stand der Technik der KI?

Vor ein paar Tagen hat ein fortschrittliches KI-System einen naturwissenschaftlichen Test der achten Klasse bestanden und dabei 90 Prozent der Fragen richtig beantwortet. Das Ergebnis wurde erhalten von Aristo, eine KI des Allen Institute for Artificial Intelligence in den Vereinigten Staaten, die einmal mehr den rasanten Fortschritt auf dem Gebiet der künstlichen Intelligenz demonstriert. Hunderte Forschungsinstitute auf der ganzen Welt arbeiten an Systemen wie Aristo und sie haben in kurzer Zeit Ergebnisse erzielt, die noch vor zehn Jahren unerreichbar schienen. Die größere Rechenleistung von Computern und die Verfeinerung von Datenkatalogisierungs- und Lernsystemen haben große Fortschritte ermöglicht und die Programmierzeiten verkürzt.

Und obwohl wir uns alle ein wenig Sorgen über das „Kommen der Singularität“ machen, den Moment, in dem laut Gelehrten wie Ray Kurzweil künstliche Intelligenz der menschlichen Intelligenz gleichkommen wird, ist uns nicht bewusst, dass die grundlegenden Techniken, die jetzt nur einige kognitive Funktionen emulieren, emulieren Systeme, die jeden Tag für schädliche Zwecke verwendet werden, sind in der Lage, alle Systeme zu untergraben, die wir gegen Computereinbrüche, medizinische Diagnosen, Wasserversorgungsniveaus bis hin zu den Betrugsbekämpfungssystemen von Banken einsetzen.

Andy Patel, Forscher am Artificial Intelligence Centre of Excellence von F-Secure und Sherpa-Projektpartner, erklärt: „Menschen verwechseln KI fälschlicherweise mit menschlicher Intelligenz, und ich denke, dass sie die KI-Bedrohung deshalb mit Killerrobotern und außer Kontrolle geratenen Computern in Verbindung bringen. Aber menschliche Angriffe auf KI kommen ständig vor.“ Ein beliebtes Beispiel für diesen Angriff ist die Manipulation von Suchmaschinenrankings oder Reputationssystemen, um bestimmte bezahlte Inhalte zu bewerben oder zu „verbergen“ oder nicht. Allerdings können diese Angriffe auch zum Social Engineering von Einzelpersonen in Angriffsszenarien eingesetzt werden, die auf öffentliche Entscheidungsträger abzielen.

Der Sherpa-Bericht stellt fest, dass Techniken der künstlichen Intelligenz eingesetzt werden, um äußerst realistische schriftliche, akustische und visuelle Inhalte zu erstellen. Dies ist der Fall bei Deep-Fake-Videos, völlig gefälschten Clips, dank derer es möglich ist, ausgehend von einer Fernsehaufnahme die Lippe eines Sprechers nachzuahmen, um ihn dazu zu bringen, Dinge zu sagen, von denen er nie zu träumen gewagt hätte. Welchen Nutzen kann man daraus ziehen? Zum Beispiel, um Beweise zu manipulieren, eine diplomatische Krise auszulösen oder einen Konkurrenten zu täuschen. Der böswillige Einsatz künstlicher Intelligenz ist bereits unter uns, ohne dass wir uns einen Mörder wie den im Film Terminator vorstellen müssen. Aus diesem Grund schlagen die Forscher vor, sofort intelligente und sichere Systeme zu entwerfen.

Microsoft-Programmierer haben das Potenzial eines Angriffs, der künstliche Intelligenzsysteme ausnutzt, die wie jeder gute Assistent die natürliche „Neigung haben, uns zu helfen“, seit langem erkannt. Tatsächlich haben sie im Laufe der Zeit Schritte unternommen, um ihre Handlungsfähigkeit einzuschränken und sich weiter anzueignen Fachwissen auch von der „Konkurrenz“, die Einstellung des ehemaligen Apple-Vizepräsidenten Bill Stasior blieb nicht unbemerkt, ein Vorgang, der in der Presse unterging von Siri bis Cortana. Dies zeigt, dass wir endlich die Tatsache ernst nehmen, dass die vollständige Kontrolle eines Systems an eine künstliche Intelligenz nicht gleichbedeutend mit Sicherheit ist.

Bisher muss man kein erfahrener Hacker sein, um in ein System einzudringen und an Informationen zu gelangen oder sich unerlaubten Zugang zu verschaffen. Es reicht aus, die menschliche Natur hinter der kalten Logik der Programmierung zu kennen und zu wissen, wie man die richtige Frage stellt.

Quellen:
https://convcomp.it/cortana-quando-la-mente-umana-si-nasconde-dietro-lin...
Cortana: Wenn sich der menschliche Geist hinter künstlicher Intelligenz versteckt
https://securingtomorrow.mcafee.com/other-blogs/mcafee-labs/want-to-brea...
Möchten Sie in ein gesperrtes Windows 10-Gerät einbrechen? Fragen Sie Cortana (CVE-2018-8140)
https://www.fastweb.it/web-e-digital/un-bug-di-cortana-rende-inutile-la-...
So greifen Sie mit Cortana auf einen passwortgeschützten Computer zu
Wie können Angreifer künstliche Intelligenz missbrauchen? https://t.co/Q3yHHlGNJk - @project_sherpa @FSecure @r0zetta#cybersecurity #AIpic.twitter.com/r7vXv2RCgZ
TGP: //www.repubblica.it/tecnologia/sicurezza/2019/07/18/news/perche_gli_umani_...
Von Siri bis Cortana: Microsoft stellt den ehemaligen Apple-Vizepräsidenten Bill Stasior ein
https://www.tomshw.it/business/dallassistenza-di-siri-a-quella-di-cortan...
https://www.macitynet.it/da-siri-a-cortana-microsoft-ha-assunto-lex-vice...
https://www.ilpost.it/2019/09/05/aristo-intelligenza-artificiale-test-sc...
Das System der künstlichen Intelligenz (KI) besteht den naturwissenschaftlichen Test der 90. Klasse und beantwortet XNUMX Prozent der Fragen richtig
https://www.securityinfo.it/2018/08/16/violare-windows-in-stato-di-blocc...

Windows im gesperrten Zustand hacken? Fragen Sie Cortana