How the Fizz App Upended a High School in Hours

[00:00:00] Ah, endlich Urlaub. Bald sitzt du entspannt am Strand. Aber erstmal musst du morgen früh pünktlich zum Flughafen kommen. Relax. Starte deinen Urlaub stressfrei. Buche deine Fahrt und komme jederzeit pünktlich zum Bahnhof oder zum Flughafen.

[00:00:15] Auf Nummer sicher gehen? Klick jetzt auf Spanner und buche deine Fahrt. Bequem und günstig fahren. Mit der Uber-App. Uber vermittelt Fahrten und ist kein Beförderer. Willkommen bei Tech News Briefing. Es ist Montag, den 24. Juni. Ich bin Zoe Thomas für The Wall Street Journal.

[00:00:33] Artifizierte Intelligenz hilft Kriminalen, um mehr sophisticatede Verbrechen zu lösen. Und Menschen aller Alter fallen für sie, verlieren zusammen Milliarden Dollar. Wir erzählen Ihnen, was Banken tun, um Kunden sicher zu halten. Und dann...

[00:00:50] Fizz ist eine Messaging-App, die Studenten anonym über ihre Klassenkameraden posten lässt und die Regeln selbst poliert. Unsere Familie und Tech-Kolumnistin Julie Jargin erklärt, wie die App funktioniert und was passiert ist, als Kinder in einem Hochschulhaus in Wermand es benutzen.

[00:01:06] Aber zuerst. Online-Verbrechen werden mit der Einführung von AI mehr beliebt. Eine Untersuchung von Banken-Software-Firmann BioCatch im April fand, dass 70 Prozent der Verbrechungs-Management-Offiziere an Banken und Finanzinstitutionen

[00:01:24] sagten, dass Kriminelle mehr ausführen, um AI für finanzielle Verbrechen zu nutzen, als Banken, um es für Verbrechen zu nutzen. Hier, um uns mehr über die neuen Arten, wie AI von Verbrechern benutzt wird, und was dazu gemacht wird, ist unser persönlicher Finanzreporter Dalvin Brown.

[00:01:40] Dalvin, AI kann Verbrechern, die schlecht versprachene Nachrichten oder Grammatikfehler vermeiden, helfen. Wie sonst benutzen sie AI, um potenzielle Verbrecher zu zielen? Ja, also benutzen Verbrecher AI, um falsche Fahrer-Licenzen und Identifikations-Dokumente zu erstellen.

[00:01:59] Sie benutzen AI, um falsche Bilder zu erstellen, damit sie typische Identifikations-Mechanismen, die Banken haben, überlassen können. Sie benutzen AI, um Informationen über Menschen zu sammeln. Guckt euch mal an, was ihre Passwörter sind, und versucht, sich in eine breite Menge Anbieter zu loggen.

[00:02:17] Grundsätzlich benutzen sie AI, um die Dinge, die sie schon tun, zu machen, aber einfach schneller, effizienter und in einem Weg, der schwerer zu unterscheiden ist. Könnt ihr uns über die Erfahrung von einigen der Menschen erzählen, die von diesen Verbrechern getargetiert wurden?

[00:02:30] Absolut. Also benutzen Verbrecher oft soziale Ingenieur-Attacke, die eigentlich, wenn sie AI benutzen, Informationen über ihre Zielgruppe sammeln und dann Messagen erstellen, die sich realistischer aussehen. Eine der Menschen, mit denen ich gesprochen habe, war Joey Rosati, der eine kleine Technikfirma bezieht.

[00:02:45] Er hat einen Tag von einem Polizisten angerufen, der ihm sagte, dass er seinen Verbrecher-Aufruf verpasst hat, er hatte sein Sozial-Sicherheitsnummer, er wusste, wer er war, einfach zu der Station kommen, um alles zu klären.

[00:02:56] Und weil der Polizist legitim aussah und all diese Informationen über ihn hatte, hat er es geglaubt. Aber dann, als er fast an der Station kam, hat der Polizist Geld für eine Verpflichtung gebeten oder ihn zu jemandem verabschiedet,

[00:03:07] der Geld für eine Verpflichtung gebeten hat. Und er war so, das ist komisch, dass man für eine Verpflichtung über das Handy bezahlen muss. Aber das ist das, was diese Verbrecher tun. Sie verlangen auf dich, sich nervös zu fühlen oder eine Art Angelegenheit, zu achten.

[00:03:20] Und dann nehmen sie dich davon aus. Dalvin, im Jahr 2022 sagte die Bundesverkehrskommission, dass Menschen 8,8 Milliarden Dollar zu Verbrechern verloren haben. Wie viel haben sie im Jahr 2023 verloren, als der AI-Boom aufging?

[00:03:34] Die Menschen verloren 10 Milliarden Dollar zu Verbrechern. Aber das Problem ist, dass viele Menschen Geld verlieren und es nicht verraten. Also ist es wirklich schwer zu wissen, wie sicher das ist. Welche Schritte nehmen Banken und andere Institutionen, um ihre Kunden von diesen AI-bezogenen Verbrechern zu schützen?

[00:03:49] Ja, also Banken wissen viel über dich. Also, wenn es mal eine Versuchung gibt, in deinem Account zu loggen, die nicht konsistent mit deinem Gehalt ist, dann wissen sie, dass etwas verändert werden kann.

[00:04:00] Und was sie auch tun, ist, mehr Wege zu finden, um zu zeigen, wenn ein Gehalt nicht authentisch ist, wenn es eine IP-Adresse gibt, um in mehrere Accounts zu loggen, Dinge wie das.

[00:04:12] Sie lassen auch Menschen wissen, dass Schams da sind und mit dem Wachstum von AI werden sie schwerer zu entdecken. Was sollten Individuen tun, um sich sicher zu halten? Um sich sicher zu halten, solltest du erstens sicher sein, dass du nicht das gleiche Passwort in mehrere Accounts wiederverwenden.

[00:04:29] Du solltest auch zwei-Faktoren-Authentizierung einschalten, damit du eine E-Mail oder einen Text bekommst, wenn jemand versucht, sich zu loggen. Und dann, wenn etwas sich anstellt, wenn du Geld mit jemandem online oder über dem Handy verhandelst,

[00:04:39] dann einfach ein Beat machen, Kommunikation brechen, den Nummer auf der Rückseite deines Kreditkartens anrufen. Mach sicher, dass der Person, mit dem du telefoniert hast, nicht der einzige Ort ist, wo du Informationen bekommen wirst. Das war unser persönlicher Finanzreporter Dalvin Brown. Kommen wir zum nächsten Thema.

[00:04:57] Was könnte passieren, wenn eine Messaging-App Teenagern anonym über ihre Klassenkameraden und die Regeln selbst verweisen lässt? Wir erzählen es dir nach der Pause. Cyber-Attacker nutzen AI und kreative Wege, um Kunden und Verbrecherorganisationen zu kompromissieren.

[00:05:21] In einem Sicherheitsgebiet, in dem du AI gegen AI kämpfen musst, kommt die beste AI-Versicherung aus den besten Daten. Zscaler hat ihre Zero Trust Architektur mit starken AI-Motoren erweitert, die von 500 Trillionen tägliche Signale trainiert und eingeschaltet sind.

[00:05:36] Lern mehr über Zscaler Zero Trust plus AI, um Verbrechen und AI-Attacke zu vermeiden. Erlebe dein Welt sicher. Besuche zscaler.com slash zero trust AI. Fizz ist ein privates Message-Board für Schülerinnen und Schüler aus der Schule und der Hochschule, das sie anonym posten lässt.

[00:05:58] Es lässt sie auch die Regeln für die Boarden selbst kontrollieren. Innerhalb von Stunden, als wir die Schüler in der größten Hochschule in Vermont in Mai öffneten, hat die App mehr Schaden gemacht, als der Lehrer in seinen neun Jahren am Job sah.

[00:06:12] Unsere Familie und Tech-Kolumnistin Julie Jargon ist hier, um uns mehr über Fizz und seinen Eindruck zu erzählen. Julie, warum war anonymes Posten eine wichtige Feature für die Entwickler von Fizz?

[00:06:23] Die Entwickler der App sagten, dass die Menschen ihrer Generation auf Social Media ihre besten Lebenszeiten gezeigt haben. Und dass die Menschen fühlten, als hätten sie ein bestimmtes Ideal leben müssen, wenn sie posten. Sie sagten, dass man durch das Entwickeln eines anonymen Raums,

[00:06:41] dass man sich mehr verunfassbar fühlt und sich besser fühlt, als wenn man sich wirklich um Dinge kümmert. Und nicht die Druck, die perfekten Bilder und das perfekte Leben zu posten. Aber was passiert ist, dass mit den Jugendlichen, insbesondere anonym zu posten,

[00:07:00] das sehr schnell zu Dingen führt, die gesagt werden, die sie nicht sagen würden, wenn ihre Namen dazu verbunden wären. Klar, und nicht auf Jugendliche zu wählen, ich bin mir sicher, dass das auch für Erwachsene passieren könnte.

[00:07:10] Die App ist für die Schülerinnen und Schüler der Universität erhältlich und hat Anfang April in einigen Hochschulen aufgenommen. Wissen wir, wie viele Nutzer sie hat? Die App-Entwickler würden nicht sagen, wie viele Nutzer es gibt, aber Sensor Tower, eine Datenanalytik-Firma, hatte einige Zahlen.

[00:07:25] Sie zeigen, dass sie 113.000 monatliche aktive Nutzer haben und dass die App selbst 600.000 Mal gedownloaded wurde. Du hast über ihren Eindruck auf der Champlain Valley Union High School in Vermont gesprochen. Wie haben die Kinder dort über die App erfahren?

[00:07:41] Es hat mit einem Instagram-Account angefangen, das ein bisschen mysteriös war. Es hat mit den Schülerinnen und Schülern angefangen, sie zu folgen. Es sagte, es komme bald, und es hatte versprochen, dass es ein Ort wäre,

[00:07:52] wo die Schüler ihre Verabschiedungen und Freude teilen können. Die Leute waren also interessiert, worum es hier geht, und dann sind sie auf die Fizz-App gedownloaded. Und dann haben sie in diese Schule-Gemeinschaft eingegangen, und dann haben sie die Videos anonym gepostet.

[00:08:08] Es hat mit Mimes und Witzen und so weiter angefangen, aber es wurde schnell ziemlich dunkel. Die Schüler haben Bilder von anderen Schülern gedownloaded und haben Spaß daran gemacht, wie sie aussehen, und auch Disziplinen von einigen Schülern. Sie haben Fotos von Partys gedownloaded und verurteilt,

[00:08:27] indem sie besagten, dass die Menschen in ihnen nicht getrunken oder hoch waren. Sie haben Verurteilungen über Lehrer und Direktoren gemacht und verurteilt, dass sie sich mit anderen Menschen oder mit den Schülern beschäftigen.

[00:08:36] All diese Dinge wurden sehr beklügend für die Schüler und Direktoren der Schule. Was haben die Schüler darüber gesagt? Ich habe mehrere Schüler interviewt, die dachten, es sei ziemlich verärgert. Sie hatten das zu Direktoren berichtet,

[00:08:51] die versuchten, zu unterscheiden, worum es hier geht. Es war offensichtlich eine ziemlich chaotische Szene für etwa eine 48-Stunden-Periode in der Schule. Die Schüler fühlten sich, als ob sie die App immer wieder kontrollieren mussten, um zu sehen, was von ihnen veröffentlicht wurde.

[00:09:06] Der Lehrer beschrieb es als Angst, dass all diese Menschen die App veröffentlichten, um sicherzustellen, dass sie nicht unter einem Cyberbullying-Versuch verurteilt wurden. Die Schüler sagten auch, sie fühlten sich nicht an andere Menschen zu vertrauen. Sie wussten nicht, wer diese Posts gemacht hat,

[00:09:21] was zu Paranoia und Spekulationen führte, wer hinter den schrecklichen Posten lag. Die Schulen haben sich dann mit Fizz ausgerufen und haben gebeten, die Schule von der App zu entfernen. Fizz hat sich dazu gegeben, sie zu entfernen. Was sind Fizzs Regeln zum Thema Content,

[00:09:36] wenn man über Bullying oder Hassreden spricht? Wer ist dafür verantwortlich, dass diese Folgen erfolgen? Fizz hat Gemeinschaftsregelungen, die verbieten, dass Menschen private Informationen über ihre Freunden posten und sie verhindern Bullying und Hassreden. Aber das Problem ist, dass die Studenten-Moderatorinnen die ersten Linien der Verteidigung sind.

[00:09:57] Sie sind mehr als ein Studenten-Moderator und sie müssen sich alle einig sein. Sie wissen nicht, wer die anderen sind, aber sie müssen sich einig sein, eine bestimmte Post zu entfernen. Der Prinzip hat einige der Studenten-Moderatorinnen in Vermont interviewt

[00:10:12] und sie sagten, sie könnten nicht mit dem Volumen von Posten und berichteten, dass Menschen gesagt haben, dass sie Gemeinschaftsregelungen verurteilen. Fizz hat auch ein zentrales Team von Vertrauens- und Sicherheitslehrern in California. Sie machen den letzten Anruf auf verflagerte Posten. Aber die ersten Linien sind die Studierenden selbst.

[00:10:36] Welchen Einfluss hat Fizz an anderen Schulen gehabt? Es gab einige Universitäten, die berichteten, dass es Bullying und offensive Posten gab. Das Universitätssystem Nordkarolina will Fizz und ähnliche Apps blockieren. Es gab auch Probleme in anderen Schulen. Fizz sagt, dass sie nur eine Schule in California entfernt haben.

[00:10:58] Ich habe von anderen Eltern gehört, dass Fizz ein Problem war. Aber vielleicht wollten sie es nicht besonders entfernen. Wie macht Fizz Geld? Es ist frei zu downloaden. Fizz sagt, dass sie endlich Ads auf der App haben. Aber es macht kein Geld.

[00:11:22] Sie haben aber mehr als 40 Millionen Dollar in Kapitalfonds erhöht. Wissen wir, was ihre Pläne für die App für die Erwachsenen sind? Ja, sie sind in etwa 60 Schulen. Sie wollen sich in mehr Schulen vergrößern. Ich habe gefragt, ob sie auf der Mittelschule gehen.

[00:11:40] Das war unsere Familie und Tech-Kolumnistin Julie Jargin. Das war's für das Tech-News Briefing. Heute wurde Julie Chang mit Supervisorin Kathrin Millsop produziert. Ich bin Zoe Thomas für die Wall Street Journal. Wir sehen uns morgen wieder bei TNB Tech Minute. Danke fürs Zuhören.