Der stetige Anstieg von digitale Betrügereien Cyberkriminalität in sozialen Medien und Messenger-Apps hat große Technologieunternehmen gezwungen, ihre Sicherheitsmaßnahmen deutlich zu verbessern. Immer häufiger versuchen Cyberkriminelle, Konten und Bankdaten zu stehlen oder sich als bekannte Marken auszugeben – durch Nachrichten, Anzeigen und Kontakte, die auf den ersten Blick harmlos erscheinen.
In diesem Zusammenhang Meta verstärkt seine Sicherheitsstrategie mit einer neuen Generation von Betrugsbekämpfungs-KI für Facebook, WhatsApp und MessengerDer Ansatz ist klar: den Nutzer warnen, bevor er in die Falle tappt, die Gefährdung durch schädliche Inhalte minimieren und Betrügern, die auf ihren Plattformen aktiv sind, das Leben so schwer wie möglich machen.
Eine KI zur Betrugsbekämpfung, die Betrügereien auf Meta immer einen Schritt voraus ist.
Meta implementiert eine Reihe von Funktionen, die Folgendes kombinieren Künstliche Intelligenz auf dem Gerät selbst und Analyse auf entfernten ServernDiese Architektur ermöglicht einerseits die Einhaltung der Ende-zu-Ende-Verschlüsselung in Diensten wie WhatsApp und Messenger und bietet andererseits eine zusätzliche Ebene erweiterter Erkennung, wenn der Benutzer beschließt, bestimmte verdächtige Inhalte zur Überprüfung zu senden.
Die Werkzeuge basieren auf Modellen, die zur Analyse fähig sind. Text, Bilder, Links und VerhaltensmusterZiel ist es, alles zu erkennen, von betrügerischen Anzeigen, die ohne Erlaubnis die Gesichter von Prominenten verwenden, über Nachrichten des „technischen Supports“, die versuchen, Bestätigungscodes zu erhalten, bis hin zu Freundschaftsanfragen von gefälschten Konten, die das Vertrauen des Opfers gewinnen wollen.
Laut den vom Unternehmen veröffentlichten Daten ist das Problem nicht unerheblich: Meta behauptet, Millionen von Konten und Anzeigen im Zusammenhang mit organisierten Betrugsnetzwerken wurden gestört. auf Facebook, Instagram und WhatsApp, in einigen Fällen verbunden mit realen Betrugszentren, die sich über mehrere Länder erstrecken.
Diese technologische Offensive setzt auch auf menschliche Prüfteams, die Seite an Seite mit KI arbeiten, damit die Modelle mit realen Beispielen trainiert werden und die Fehlermarge bei der Klassifizierung zweifelhafter Inhalte verringert wird.
WhatsApp: Schutz vor Kontoübernahme und verdächtigen Gruppen
Bei WhatsAppMetas KI zur Betrugsbekämpfung konzentriert sich auf einige besonders häufige Angriffsvektoren: Kontoübernahme durch Geräteverknüpfung, Betrugsversuche und Täuschungen im Bereich des technischen Supports durch unbekannte Gruppen.
Eine der wichtigsten Neuerungen ist ein System von Warnmeldungen werden ausgegeben, wenn jemand versucht, das Konto mit einem unbekannten Gerät zu verknüpfen.Wird eine verdächtige Anfrage erkannt, zeigt die App Informationen wie den Ursprung des Versuchs an und warnt ausdrücklich vor einem möglichen Betrugsversuch. So kann der Nutzer den Vorgang stoppen, bevor Dritte vollen Zugriff auf seine Konversationen erhalten.
KI greift auch in Situationen ein, in denen Bildschirmfreigabe während Videoanrufen mit unbekannten KontaktenWird dieses Risikomuster erkannt, gibt das System automatisch eine Warnung aus, da viele Betrugsmaschen im Zusammenhang mit angeblichem technischen Support darauf beruhen, den Bildschirm des Benutzers live zu beobachten, um Bankdaten, Einmalcodes oder andere besonders sensible Informationen zu erfassen.
Darüber hinaus zeigen Gruppen, denen Nutzer beitreten, ohne viel über ihre Mitglieder zu wissen, nun ein Präventive SicherheitstafelDieses Panel bietet Details zur Gruppe, Tipps zur Erkennung von Betrugsversuchen und die Möglichkeit, die Gruppe zu verlassen, ohne zu interagieren. Benachrichtigungen werden stummgeschaltet, bis der Nutzer bestätigt, dass er bleiben möchte.
Meta testet auch Kontextbezogene Warnmeldungen beim Starten von Chats mit Nummern, die nicht im Adressbuch gespeichert sind.Wenn das System typische Anzeichen für Phishing, gefälschte Investitionen oder unklare Geldforderungen erkennt, empfiehlt es, äußerste Vorsicht walten zu lassen und bietet die Möglichkeit, diese mit wenigen Klicks zu blockieren oder zu melden.
Facebook: Freundschaftsanfragen und gefälschte „Support“-Seiten werden genau unter die Lupe genommen.
En FacebookKI zur Betrugsbekämpfung hat zwei Hauptbereiche: Verdächtige Freundschaftsanfragen und Webseiten, die sich als Kundendienstabteilungen oder etablierte Marken ausgeben.
Beim Empfang einer Freundschaftsanfrage kann die Plattform eine Warnung anzeigen, wenn sie Risikofaktoren erkennt: Konten mit sehr wenigen gemeinsamen Freunden, kürzlich erstellte Profile, geografische Herkunft, die nicht zum Netzwerk des Nutzers passt, oder Verhaltensweisen, die Mustern von Bot-Netzwerken entsprechen. Auf diese Weise kann der Nutzer besser beurteilen können, ob die Anfrage angenommen, ignoriert oder blockiert werden soll. bevor man einem potenziellen Betrüger die Tür öffnet.
Ein weiterer relevanter Schwerpunkt ist die Gefälschte Supportseiten und Konten Meta versucht, Nutzer zu betrügen, die Hilfe bei der Kontowiederherstellung oder Problemlösung suchen. Meta gibt an, gegen Zehntausende solcher Seiten vorgegangen zu sein, die typischerweise Anmeldedaten, Ausweisdokumente oder Zahlungen verlangten, um angebliche Wiederherstellungsprozesse zu „beschleunigen“.
Das Unternehmen verstärkt außerdem seine Mechanismen für Überprüfung von Werbetreibenden und Erkennung betrügerischer AnzeigenDies umfasst auch diejenigen, die Bilder von Prominenten, Geschäftsleuten oder Persönlichkeiten des öffentlichen Lebens ohne deren Erlaubnis verwenden. Die KI vergleicht Gesichter und identifiziert wiederkehrende Manipulationen, die dazu dienen, Scheininvestitionen, nicht existierende Werbeaktionen oder Produkte, die nie geliefert werden, zu legitimieren.
Dieser Punkt ist besonders heikel für Unternehmen und Content-Ersteller in Spanien und dem übrigen Europa, wo Anzeigen mit Nutzung des Bildes von Unternehmern oder bekannten lokalen Persönlichkeiten, um Opfer anzulockenDies führt zu Verwirrung und einem Reputationsschaden, der nur schwer wieder gutzumachen ist.
Messenger: Vom Benutzer konfigurierbare Betrugserkennung
Die mit Facebook verknüpfte Messaging-App Messengerbeinhaltet eine spezifische Funktion namens „Betrugserkennung“Diese Option, die über die Datenschutz- und Sicherheitseinstellungen zugänglich ist, analysiert Konversationen, die von unbekannten Kontakten initiiert wurden, detaillierter. Nach der Aktivierung bietet diese Funktion eine umfassendere Auswertung der Gespräche.
KI konzentriert sich auf Charakteristische Muster gefälschter AngeboteDazu gehören: Angebote für Fernarbeit mit Vorauszahlungen, Investitionen mit garantierten Renditen, dringende Geldforderungen oder Versuche, sich als Mitarbeiter bekannter Unternehmen auszugeben. Bei verdächtigen Aktivitäten wird eine Warnung angezeigt, die die Art des Risikos angibt und empfiehlt, den Absender zu blockieren oder zu melden.
Sofern der Nutzer dies ausdrücklich genehmigt, können die markierten Nachrichten im Einzelfall an die Metaserver für eine tiefergehende KI-AnalyseDieser Schritt unterbricht die Ende-zu-Ende-Verschlüsselung nur für diesen spezifischen Inhalt vorübergehend. Jede Person muss diese Entscheidung unter Berücksichtigung ihrer Risikotoleranz und ihrer Datenschutzbedenken abwägen.
Parallel dazu hat Messenger sein System verbessert VerbindungsschutzDie Funktion „Sicheres Surfen“, die URLs bereits auf dem Gerät selbst analysierte, nutzt nun eine zusätzliche Schutzebene namens „Erweiterter Schutz“, die mit … verbunden ist. ständig aktualisierte Listen von gefährlichen Websites. Das Design zielt darauf ab, den Zugriff auf Phishing-Seiten oder Malware-Downloads zu blockieren, ohne die Identität des Benutzers oder seinen vollständigen Browserverlauf preiszugeben.
Für Support-, Vertriebs- oder Kundendienstteams, die Messenger als regulären Kanal nutzen, stellen diese Verbesserungen sowohl eine Eine zusätzliche Schutzbarriere gegen Betrugsversuche, die es auf Ihre eigene Marke abgesehen haben. als ein etwas sichereres Umfeld für die Nutzer, mit denen sie täglich interagieren.
Die künstliche Intelligenz unter der Haube
Die neuen Sicherheitsfunktionen von Meta basieren auf einer Hybridarchitektur, die zwei sich ergänzende Ansätze kombiniert. Der erste ist der Analyse des GerätsEs funktioniert direkt auf dem Mobiltelefon oder Computer des Benutzers und respektiert die Ende-zu-Ende-Verschlüsselung, da es keine Inhalte an externe Server senden muss, um Risikomuster zu erkennen.
Diese lokale Analyse konzentriert sich auf Signale wie die Tatsache, dass Nachrichten von nicht gespeicherten Nummern empfangenDazu gehören Versuche, den Bildschirm mit Fremden zu teilen, plötzliche Änderungen im Kontoverhalten oder das Auftreten von Links, die mit früheren Betrugsmeldungen übereinstimmen. Durch die Nutzung des Geräts selbst wird die Menge der extern gesendeten Daten reduziert, wodurch eine sofortige erste Verteidigungslinie geschaffen wird.
Die zweite Ebene wird aktiviert, wenn der Benutzer dies auswählt. Senden Sie Inhalte zur Überprüfung mithilfe von KI in der Cloud.In diesem Fall werden die markierten Nachrichten oder Elemente von den Systemen von Meta verarbeitet. Diese verwenden komplexere Modelle, um zu beurteilen, ob es sich um eine bekannte Betrugsmasche handelt. Bestätigt die Analyse ein Risiko, zeigt die Plattform Erläuterungen zum potenziellen Betrug an und empfiehlt konkrete Maßnahmen.
Das Unternehmen betont, dass es neben KI noch weitere Faktoren gibt Menschliche Moderationsteams, die täglich Millionen von Inhalten überprüfen.Dieses menschliche Element ermöglicht unter anderem die Verfeinerung von Modellen, die Bewältigung heikelster Fälle und die Zerschlagung groß angelegter, koordinierter Kampagnen, die über einfache, isolierte Botschaften hinausgehen.
Dieser gesamte Mechanismus wird durch Vereinbarungen mit Sicherheitskräften und anderen Akteuren im Technologiesektor ergänzt, um Informationen über bösartige Domains, gefälschte Kontonetzwerke und neue Taktiken krimineller Organisationen auszutauschen.
Hauptarten von Betrug, die die KI von Meta zu verhindern versucht
Meta-Plattformen sind ein Nährboden für eine breite Palette digitaler BetrugsmaschenDie neuen Tools dienen unter anderem dazu, die folgenden gängigen Betrugsmaschen, die es auf Nutzer in Spanien und Europa abgesehen haben, zu erkennen und zu unterbinden:
- Betrugsmaschen mit gefälschtem technischen Support: Personen, die sich als Mitarbeiter des Banksupports, als Telefonisten oder sogar als Meta selbst ausgeben, um Verifizierungscodes, Passwörter oder Fernzugriff auf das Gerät zu fordern.
- Betrug durch Bildschirmfreigabe: Videoanrufe, bei denen der Betrüger das Opfer dazu bringt, seinen Bildschirm zu zeigen, um Bankdaten, SMS mit Einmalcodes oder Zugangsdaten für Dienste wie Online-Banking oder Zahlungsportale zu erbeuten.
- Nicht existierende Stellenangebote und Stipendien: Anzeigen oder private Nachrichten, in denen einfache oder gut bezahlte Jobs im Austausch für eine erste Zahlung für "Verfahren" oder für die Bereitstellung sensibler persönlicher Informationen versprochen werden.
- Anlageprogramme und Kryptowährungen: Kampagnen, die schnelle und garantierte Renditen versprechen, werden oft durch die unerlaubte Nutzung von Prominenten oder bekannten Geschäftsleuten unterstützt.
- Phishing und bösartige Links: URLs, die legitime Portale – Banken, E-Commerce-Plattformen, öffentliche Dienste – imitieren, mit dem Ziel, Zugangsdaten zu stehlen oder Schadsoftware auf dem Gerät zu installieren.
Die Kombination aus automatisierter Überwachung, Sperrlisten gefährlicher Websites und Meldemechanismen für Nutzer ermöglicht Folgendes: Das System passt sich schnell an neue Varianten dieser Betrügereien an.die oft mutieren, um einer leichteren Entdeckung zu entgehen.
Auswirkungen auf Nutzer, Unternehmen und Gründer, die von Meta abhängig sind
Über den Schutz des Durchschnittsnutzers hinaus haben die neuen KI-gestützten Betrugsbekämpfungsfunktionen direkte Auswirkungen auf Unternehmen, die Facebook, WhatsApp und Messenger als ihre grundlegende Infrastruktur nutzen für Vertrieb, Kundenservice oder Community-Aufbau.
Zum einen, wenn ein Unternehmen WhatsApp Business oder Messenger zur Kommunikation mit Kunden nutzt, Ihre Nachrichten könnten Alarme auslösen, wenn das System sie als verdächtig einstuft.Beispielsweise durch das Einfügen zahlreicher Links oder das Anfordern sensibler Daten. Daher ist es notwendig, Skripte, Tonfall und Häufigkeit zu überprüfen, um Fehlalarme zu minimieren und das Vertrauen des Publikums zu erhalten.
Andererseits gibt es Startups in besonders sensiblen Sektoren – wie zum Beispiel Fintech, digitale Gesundheit oder Rechtsdienstleistungen— Sie sehen in diesen Tools ein klares Zeichen: KI-basierte Sicherheit ist kein "Extra" mehr, sondern gehört nun zu den Mindestanforderungen an jedes Produkt oder jede Dienstleistung, die kritische Daten verarbeitet.
Metas zunehmende Zusammenarbeit mit anderen Technologieunternehmen und öffentlichen Einrichtungen öffnet auch die Tür für Neue Chancen für Unternehmen, die sich auf Cybersicherheit spezialisieren, die ihre Lösungen in die Bedrohungserkennungssysteme großer Plattformen integrieren oder Beratungsdienstleistungen für kleinere Unternehmen anbieten können.
Letztendlich wird die Wirksamkeit dieser Maßnahmen davon abhängen, dass sowohl Benutzer als auch Organisationen bewährte Verfahren anwenden: die verfügbaren Betrugsschutzfunktionen aktivieren, Apps auf dem neuesten Stand halten, bei unerwünschten Nachrichten vorsichtig sein und verdächtiges Verhalten melden, um die Erkennungssysteme zu füttern.
Mit der Umsetzung seiner neuen Betrugsbekämpfungs-KI auf Facebook, WhatsApp und MessengerMeta unternimmt einen wichtigen Schritt hin zu einem digitalen Umfeld, das für Betrüger etwas schwieriger und für diejenigen, die seine Dienste täglich nutzen – von Einzelnutzern bis hin zu Unternehmen, die für einen wesentlichen Teil ihrer Tätigkeit auf diese Plattformen angewiesen sind – etwas sicherer ist.
