„Kein Unternehmen wird für Sie ins Gefängnis gehen“: Der CTO von Proton über die Balance zwischen Datenschutz, Richtlinien und Vertrauen

Heute haben wir bei Decoder den ersten Teil einer zweiteiligen Serie über die Systeme, die die Welt steuern: Ich spreche mit Bart Butler, dem CTO von Proton, dem Unternehmen, das private und sichere Produktivitätssoftware herstellt. Sie wissen es wahrscheinlich am besten für Proton Mail, das standardmäßig verschlüsselt ist, aber das Unternehmen verfügt auch über Dokumente, Tabellen, einen Kalender und sogar einen neuen KI-Assistenten namens Lumo, die alle auf der Idee aufgebaut und vermarktet werden, dass sie wesentlich privater sein sollten als die Produkte von Big-Tech-Unternehmen. Sie werden Bart ziemlich deutlich sagen hören, dass das, was Proton auf hohem Niveau verkauft, nicht wirklich die Produkte selbst sind, sondern tatsächlich Vertrauen. Und beim Vertrauen in die Softwarewelt geht es nicht nur um die Menschen, die die Unternehmen leiten, sondern auch um die Technologie, die sie entwickeln und verkaufen, sowie um die Unternehmensstruktur, die dafür sorgt, dass die Technologie mit den richtigen Anreizen aufgebaut wird. Mit anderen Worten, reiner Decoder-Köder. Die Herausforderung besteht darin, dass Bart auch sagt, dass es Teil der Mission von Proton sei, ein tragfähiger Konkurrent von Big Tech zu werden, und das bedeute, dass das Unternehmen wachsen und auf wettbewerbsfähige Größe expandieren müsse, während es gleichzeitig seine Kernwerte bewahren müsse. Diese Philosophie und diese Herausforderung sind direkt in der Struktur von Proton und sogar in seinem physischen Standort verankert – das Unternehmen und seine Server haben ihren Sitz in der Schweiz, teilweise aufgrund der geopolitischen Neutralität der Schweizer Regierung. Vor zwei Jahren ist Proton auch zu einer gemeinnützigen Struktur übergegangen, die von einer Stiftung geleitet wird. Dies ist ein bekanntes Modell, das von allen Arten von Unternehmen verwendet wird, die angeblich im öffentlichen Interesse agieren, aber auch eigene Fehlermöglichkeiten aufweisen, wie wir gerade bei OpenAI gesehen haben. Verge-Abonnenten: Vergessen Sie nicht, dass Sie überall dort, wo Sie Ihre Podcasts beziehen, exklusiven Zugriff auf den werbefreien Decoder erhalten. Gehen Sie hierher. Kein Abonnent? Hier können Sie sich anmelden. Wir haben über all das gesprochen, aber ich wollte unbedingt mit Bart sprechen, weil er für die technische Konstruktion einiger sehr komplexer Systeme verantwortlich ist, die mit all dieser komplexen Politik interagieren. Ich wollte wirklich wissen, wie Sie all diese hohen Ideale und Konzepte wie das Vertrauen der Benutzer in echte, datenschutzorientierte Produkte und Funktionen umsetzen, die diesem politischen Druck standhalten können.  Beispielsweise forderte die Schweizer Regierung Anfang des Jahres Zahlungsdaten an, die das FBI dazu veranlassten, einen mit der Stop Cop City-Bewegung in Atlanta, Georgia, verbundenen Demonstranten zu entlarven, einer Anfrage, der Proton nachkam. Natürlich musste ich Bart zu all dem fragen und was es bedeutet, dass die US-Regierung Worte wie „Terrorismus“ verwenden kann, um ausländische Regierungen zu zwingen, Druck auf Proton auszuüben – und wie das Unternehmen entscheidet, wann und wie es diese Kämpfe annimmt.  Dieser Druck äußert sich auf vielfältige Weise. Proton hat aktenkundig erklärt, dass es die Schweiz verlassen wird, und Bart sagt, dass es auch erwägen würde, seine Aktivitäten in EU-Ländern wie Deutschland und Norwegen aufzugeben, wenn verschiedene Überwachungsgesetze, die sich durch europäische Gerichte durchsetzen, weiterhin die Datenschutzmission von Proton gefährden. Bart erzählte mir, dass dies nicht nur leere Drohungen seien und dass Proton gerade darüber nachdenke, was es bedeuten würde, Europa zu verlassen, wenn die Dinge, in seinen Worten, „dystopischer“ würden. Da ist eine ganze Menge drin. Wir liefen ziemlich lange, weil wir so tief im Unkraut waren. Wir verbrachten zunächst die Zeit damit, die allgemeinen Rahmenbedingungen durchzugehen, bevor wir über die sehr realen Probleme der Kindersicherheit, der Altersüberprüfung und der KI sprachen – die allesamt die Werte von Proton mit einigen der anspruchsvollsten Probleme im heutigen Internet auf die Probe stellen. Aber wir haben uns die zusätzliche Zeit genommen, um dorthin zu gelangen, und ich hoffe, Sie werden denken, dass es sich gelohnt hat.   Okay: Bart Butler, der CTO von Proton. Auf geht's. Dieses Interview wurde aus Gründen der Länge und Klarheit leicht bearbeitet. Bart Butler, Sie sind der Chief Technology Officer bei Proton. Willkommen bei Decoder. Danke schön. Ich freue mich, hier zu sein. Ich freue mich darauf, mit Ihnen zu sprechen. Es fühlt sich an, als ob Proton im Mittelpunkt einer eskalierenden, sich immer weiter entwickelnden Debatte darüber steht, wie wir Technologiesysteme aufbauen, wie wir sie regulieren und wie Verbraucher ihre Daten schützen oder überhaupt Kontrolle über ihre Daten haben können. Fangen wir ganz am Anfang an. Ich denke, die meisten Leute verstehen Proton als ProtonMail, aber es gibt jetzt eine Reihe von Büroprodukten und Produktivitätsprodukten. Beschreiben Sie, was Proton ist und wie alle Produkte Ihrer Meinung nach zusammenarbeiten. Proton ist also, wenn man so will, ein Ökosystem – eine Sammlung von Produkten, die alle die gleiche DNA haben, in dem Sinne, dass es sich in vielen Fällen grundsätzlich um Versionen von Produkten handelt, die man woanders kaufen kann, die aber die Privatsphäre schützen, oder?  Yes, we started with mail. Wir haben auch ein VPN. Wir verfügen über ein Proton Drive, das unseren Dateispeicher, Fotos und kollaborative Echtzeitdokumente umfasst. Wir haben einen Kalender. Wir haben einen Passwort-Manager namens Proton Pass. Wir haben Meet, eine Videokonferenzsoftware. Wir verfügen also über eine ganze Reihe von Produkten, die zum Teil sehr ähnliche Funktionen wie andere Produkte erfüllen, mit denen Sie vielleicht vertrauter sind, aber auch die Privatsphäre wahren. Einer der Gründe, warum ich mich darauf freue, speziell mit Ihnen als Chief Technology Officer zu sprechen, ist die Vorstellung, dass es eine Reihe von Produkten gibt, die bekannt sind, das Unternehmen, das sie betreibt, sich jedoch besser verhält als das andere Unternehmen, ein bekanntes Muster in dieser Branche. Klar, das ist es. Und Proton verspricht, dass die Produkte tatsächlich anders aufgebaut sind. Ja. That from the very beginning, the way the products are built is actually what makes and keeps the promise of protecting privacy, not a benevolent CEO or a benevolent board of directors. Wir kommen dazu. Hier ist einiges davon in der Mischung enthalten. Davon gibt es auch einiges. Es gibt einiges über die Unternehmensstruktur, aber ja, ich denke auch, dass es tatsächlich, würde ich sagen, zwei primäre strukturelle ... oder vielleicht Systeme gibt. Im weiteren Sinne könnte man sie als Systemtechnik bezeichnen, aber es gibt strukturelle Einschränkungen bei der Funktionsweise von Proton. Das erste ist, dass wir alle Daten verschlüsseln, die wir können. Wenn wir also umkehren und diese Daten an jemanden verkaufen wollten, können wir das nicht. Es ist uns mathematisch gesehen nicht möglich, das zu schaffen, oder? This also has other benefits. Wir können es nicht so leicht an Hacker oder andere interessierte Parteien verlieren, und es gibt einige Daten, auf die wir beispielsweise bei rechtlichen Anfragen antworten können, aber es gibt auch Daten, auf die wir nicht reagieren können. Und das hilft uns; Grundsätzlich können wir keine Daten herausgeben, auf die wir keinen Zugriff haben. Das zweite ist das Geschäftsmodell. Ich meine, es gibt natürlich auch andere SaaS-Anbieter, die das tun. Ich glaube nicht, dass es in unserer Größe viele verbraucherbasierte B2C-SaaS-Anbieter gibt, die dies tun, aber unser Umsatzmodell wird von unseren Benutzern bezahlt, oder? Wir verkaufen also keine Anzeigen. Die Produkte dienen nicht dazu, Menschen dazu zu bringen, uns ihre Daten zu übermitteln, damit wir sie an Werbetreibende verkaufen können. Und das bedeutet, dass diese Benutzer – diejenigen, die unsere Rechnungen bezahlen, unsere Gehälter bezahlen – es uns ermöglichen, das Geschäft auszubauen. Wenn wir sie verraten würden, würde das den Wert des Unternehmens erheblich beeinträchtigen. Wir haben den Wert des Unternehmens und das Wachstum des Unternehmens an den Schutz unserer Benutzer gebunden, sodass unsere Interessen im Einklang stehen. Das ist auch deshalb sehr wichtig, weil es Versuchungen gibt. Menschen reagieren auf Anreize, und wir haben unser Unternehmen strukturell so ausgerichtet, dass diese Anreize auf die Menschen ausgerichtet sind, denen wir zu schützen versprochen haben. Um das, was Sie gerade gesagt haben, sehr reduktiv zusammenzufassen: Wir nehmen Geld von Verbrauchern und verkaufen ihnen verschlüsselte Versionen beliebter Dienste, auf die sie angewiesen sind, wie E-Mail, ein VPN und eine Office-Suite. Glauben Sie, dass die Verbraucher verstehen, dass sie die Technologielösung kaufen, oder kaufen sie das Versprechen der Privatsphäre? Or is it some mix? Denn ich bin nicht wirklich sicher, ob die Verbraucher im großen Maßstab wirklich verstehen, wie das alles funktioniert, oder? Sie denken, dass ihre iPhones ihnen zuhören. Was ich Produktleuten und Ingenieuren in Besprechungen über neue Funktionen sagen werde, ist, dass man bereits gescheitert ist, wenn man dem Benutzer gegenüber das Wort Verschlüsselung erwähnt hat. Ich meine, die Leute verstehen nicht, was das ist. Das ist in Ordnung. Unser Ziel ist es, Produkte herzustellen, die genauso benutzbar und funktional sind wie unsere Mitbewerber oder sogar noch funktionaler. Ich meine, ich möchte nicht völlig abgeleitet klingen. Wir verfügen über Funktionen, die sonst niemand bietet und die oft auf Privatsphäre und Funktionalität für Personen ausgerichtet sind, die vertrauliche Kommunikation benötigen. Im Allgemeinen verkaufen wir jedoch das Versprechen. Wir verkaufen das Versprechen, dass wir ein anderes Unternehmen sind. Wir verkaufen das Vertrauen – und dieses Vertrauen ist entscheidend. Ohne Vertrauen… Darin liegt der wahre Wert des Unternehmens. Nun, dieses Vertrauen wird durch Technologie gestützt, oder? Aber wir verkaufen das Vertrauen. Der Grund, warum ich darauf dränge, und insbesondere freue ich mich, dass Sie Vertrauen erwähnt haben, ist, dass die großen Technologieunternehmen alle die gleichen Versprechungen machen werden, dass Ihre Daten privat bleiben. Facebook wird Ihnen gerne mitteilen, dass kein Bruchteil Ihrer Daten verkauft wird. Es liegt eigentlich nicht in ihrem Interesse, die Daten zu verkaufen, da die Anzeigenausrichtung, die sie durchführen, davon abhängt, dass die Daten ihnen gehören und nicht denen anderer. Wir können uns tagelang damit beschäftigen. Ich bin nur neugierig, wo Sie dieses Vertrauen sehen, das zum Ausdruck kommt, oder wo Sie das Gefühl haben, dass dieses Vertrauen am stärksten von Proton aus kommuniziert wird. Denn wenn Sie mich als eher technisch versierte Person fragen, schaue ich mir die Architektur von „Alles ist verschlüsselt“ an, und wahrscheinlich ist es mathematisch gesehen unmöglich, darauf einzugehen. Natürlich werden wir uns mit der Frage befassen, wie viele Metadaten mit den Behörden geteilt werden können, denn darüber gibt es einige Diskussionen. Aber das ist für mich das Entscheidende, im Gegensatz dazu, Ihnen oder einem Vorstand zu vertrauen. Manche andere Leute schauen sich die Versprechen einfach an und nehmen sie für bare Münze. Dann gibt es eine Reihe von Regulierungsbehörden, die sagen: „Eigentlich haben wir eine Reihe anderer Interessen daran, die hier verarbeiteten Daten zu sehen, und wir vertrauen Ihnen eigentlich nicht, dass Sie ein guter Akteur im Ökosystem sind.“ Wenn Sie also über Vertrauen nachdenken, kommt es dann darauf an, dass „die Daten verschlüsselt sind, und das ist das Kernversprechen, das wir geben, und alles, was kaputt geht, macht auch das gesamte Produkt kaputt“? Oder gibt es eine andere Dimension des Vertrauens, die bei Proton beim Aufbau der Systeme wichtig ist? Daher ist eine Ende-zu-Ende-Verschlüsselung natürlich wichtig. Es ist der Goldstandard und das, wonach wir streben. Allerdings gibt es definitiv Merkmale, die wir... Privatsphäre hat, zumindest für mich persönlich, mit Kontrolle zu tun. Es gibt Zeiten, in denen ich eine Integration mit einem externen Dienst oder ähnliches wünsche, und ich meine, meine Entscheidungen sind keine Integration oder das Brechen der Ende-zu-Ende-Verschlüsselung. Unser Ziel ist es, dem Benutzer eine fundierte Auswahl und Kontrolle darüber zu geben, wer seine Daten sieht. Es ist also nicht das Gleiche, als würden Sie niemals Ihre Daten oder Ihre Fotos mit irgendjemandem teilen. Der Punkt ist jedoch, dass Sie Ihre Fotos nicht mit jemandem wie Facebook teilen, der sie möglicherweise monetarisiert, sondern dass Sie Ihre Fotos mit Oma und Opa teilen, und zwar nur mit Oma und Opa. Das heißt nicht, dass Verschlüsselung alles ist, aber ich denke, wir haben es geschafft … Ich weiß nicht, ob wir jetzt in die Unternehmensstruktur einsteigen wollen. Aber wir haben die grundlegenden technischen Grundlagen geschaffen, die das Vertrauen untermauern. Leute wie Sie schauen sich die Architektur an und sagen: „Okay, das ist verschlüsselt. Das ist mir wichtig.“ Und dann erzählen Sie es jemand anderem und zu dieser anderen Person sagen Sie: „Ich vertraue Proton aus diesem, diesem und diesem Grund.“ Die andere Person weiß nur: „Hey, ich kenne Nilay, ich vertraue ihm und er sagt, Proton sei gut.“ Es gibt eine ganze Kohorte, die viel, viel größer ist als die Kohorte der Technikfreaks. Die Technikfreak-Kohorte ist natürlich unser Kern, und das schon von Anfang an, aber es gibt eine ganze Kohorte von Leuten, die Proton vertrauen, weil sie andere Leute kennen. Und mittlerweile meine ich, dass es auf Reddit vielleicht nur Menschen sind, denen sie vertrauen, oder? Aber andere Leute, die sie kennen, sagen, dass Proton da ist. Und was ich damit sagen möchte ist, dass wir ... Wir alle haben Anschauungsunterricht in den Regeln, Statuten, Gesetzen und anderen Dingen erhalten, die etwas wert sein können, aber letztendlich etwas wert sind, wenn sie es sind ... Personal ist wirklich wichtig, oder? Es kommt wirklich darauf an, wer sie durchsetzt. Wir haben also die technische Ebene, die dazu dient, unsere technischen Möglichkeiten einzuschränken, und dann haben wir auch die Ebene der Rechts- und Unternehmensstruktur, die im Grunde die tiefgreifende Verteidigung darstellt. Es ist eine Verteidigung in der Tiefe. All diese Dinge sind ineinandergreifende Garantien für unsere Benutzer, dass wir vertrauenswürdig sind. Letztendlich ist das das Wichtigste am Unternehmen. Ich möchte auf die Unternehmensstruktur eingehen. Es handelt sich immerhin um einen Decoder, aber nur noch eine Umdrehung am Produktset selbst. Sie haben mit ProtonMail begonnen. Sie haben die andere Produktsuite, darunter jetzt auch einen KI-Assistenten. Sie haben darüber gesprochen, dass das Geschäftsmodell darin besteht, dass die Verbraucher direkt Geld für die Produkte bezahlen. Ist ProtonMail immer noch das Kernprodukt, mit dem man am meisten Geld verdient? Wachsen die anderen Geschäftszweige? Wie sieht das aus? Daher legen wir keine direkten Finanzdaten offen. Mail und VPN sind die beiden ältesten Produkte und erwartungsgemäß sind sie immer noch die beiden größten Produkte. Aber wir haben auch viele Leute, die Bundles kaufen und mehrere Produkte kaufen. Wir versuchen, dafür zu sorgen, dass die Produkte in einem Ökosystem gut zusammenarbeiten. Einige Produkte sind fester gebunden als andere. Die neuen Produkte, die neueren wie Calendar, sind natürlich sehr eng mit Mail verknüpft, aber wir haben auch Drive und Pass. Diese sind nicht so groß wie die älteren Produkte. Sie haben zwar weniger Vorsprung, wenn man so will, aber sie wachsen schnell. Sie tragen also alle dazu bei, aber ja, sie tragen unterschiedlich bei. Oft sage ich nicht genau, wie alt sie sind, aber diejenigen, die die größere Start- und Landebahn hatten, sind normalerweise größer, oder? Eines der Muster bei Verbraucherproduktivitätssoftware besteht darin, dass die Suiten größer werden, die Pakete größer werden und die Unternehmen dann erkennen, dass die Kundenklasse, die tatsächlich für höhere Produktivität zahlen wird, Unternehmen sind. Ja. Das sehen wir in diesem Raum immer wieder. Notion hat es geschafft, Dropbox hat es geschafft. Ich kann noch endlos über Unternehmen reden, die wir als Verbrauchersoftwareunternehmen behandelt haben und die sich schließlich zu Unternehmensunternehmen entwickelt haben. Spürt Proton den gleichen Druck, dass Sie mehr Firmenkunden, Unternehmenskunden, haben müssen, um zu wachsen? Oder konzentrieren Sie sich immer noch auf den Verbraucher? Das ist eine sehr, sehr interessante Frage. Ich denke, wir spüren definitiv den Druck. Da ist... was ist das? Ich weiß nicht, ob es apokryphisch ist oder nicht, aber das alte Zitat von John Dillinger lautet: „Warum raube ich Banken aus? Nun ja, dort ist das Geld.“ Davon gibt es ein wenig in „Warum gehen Sie B2B?“ Nun ja, dort sind die Leute, die über ein Budget verfügen und bereit sind, dafür zu zahlen.  Ich denke, wir denken definitiv darüber nach. Auch wenn wir ein vorwiegend verbraucherorientiertes Unternehmen sind, gibt es vor allem in Kleinbetrieben viele Menschen, die unsere Produkte für geschäftliche Zwecke nutzen. Sie verwenden einfach den Verbraucher. Und wir haben auch Vorstöße in Angebote für kleine Unternehmen und Ähnliches unternommen.  Ich denke, das ist etwas, was das Wachstum wahrscheinlich erfordern wird. Und ich denke, es gibt viele Unternehmen, für die die Dinge, die wir anbieten – insbesondere Vertraulichkeit, nicht in den USA ansässige und europäische Souveränitätsthemen und einfach nur unser Ruf – für diese Unternehmen sehr attraktiv sind. Allerdings müssen wir eine Balance finden. Und heute ist unser Geschäft B2C. Wir werden das B2C-Geschäft nicht aufgeben. Ich denke auch, dass es eine Wettbewerbsstärke ist, wenn das B2C-Geschäft so stark ist, wie es ist. Ich meine, wie Sie sagten, es gibt mehrere, die von B2C auf B2B umgestiegen sind. Aber gleichzeitig denke ich, dass es viel mehr B2B-Akteure gibt, die B2B starten und dort bleiben. Und eines der Dinge, mit denen wir uns befassen: Die Kommunikation zwischen Unternehmen und ihren Kunden ist sicherlich wichtig, und Vertraulichkeit ist dabei wichtig. Sie sehen Dinge wie die Versuche von WhatsApp, Unternehmen eine Verbindung zu Verbrauchern herzustellen, die WhatsApp haben. Ich denke, wenn es an der Zeit ist, B2B wirklich voranzutreiben, werden die B2C-Benutzerbasis und die Produktsuite für uns von Vorteil sein. Eine der Spannungen dort, da KI immer mehr Unternehmen infiltriert, besteht darin, dass Pioniermodellunternehmen jedes Quäntchen Daten wollen. Ich glaube, dass viele große Unternehmen sehr zurückhaltend sind, wenn es darum geht, eine Menge Daten an Vorzeigeunternehmen weiterzugeben. Die KI funktioniert am besten, wenn sie über eine Menge Daten verfügt, und es gibt also eine große Auswahl darüber, wie viel von Ihrem Unternehmen Sie Claude preisgeben möchten. Wie viel von Ihnen werden Sie Claude zeigen, um den größtmöglichen Nutzen aus diesen Modellen zu ziehen? Proton sitzt mittendrin mit einer technischen Architektur, von der Sie sagen, dass sie Wahlmöglichkeiten bieten würde, aber es scheint auch, dass das Spiel für viele dieser Unternehmen darin besteht, einfach alles abzugeben und zu sagen: „Führe mein Geschäft, KI.“ Wie sehen Sie die Zusammenarbeit mit Ihren Unternehmenskunden heute? Ja. Ich meine, es ist eine schwierige Entscheidung. Es gibt alle ihre sensiblen Daten weiter. Und sie haben in vielen Fällen das Gefühl, keine Wahl zu haben. In gewisser Weise haben wir deshalb Lumo entwickelt, unser KI-Angebot, das meiner Meinung nach leider schon früher von der Liste gestrichen wurde. Ich glaube, wir haben gerade Lumo 2.0 auf den Markt gebracht, eine umfassende Überarbeitung der von uns verwendeten Modelle. Und ein Teil davon ist … Das Ziel des Lumo-Projekts im Allgemeinen ist es, etwas zu haben, das sich in den Rest unserer Produkte integrieren lässt und dies auf sichere Weise tun kann. Damit soll diese Art von Kompromiss angegangen werden: Ob ich zufällig ausgewählten KI-Unternehmen gebe – möglicherweise in verschiedenen Ländern, möglicherweise mit Compliance-Problemen usw. –, ob ich ihnen alle meine sensiblen Geschäftsdaten gebe oder ob ich dies auf eine Weise tun kann, die noch besser geschützt ist? Nun müssen wir auf unserer Seite in vielerlei Hinsicht noch Kompromisse eingehen, aber wir behalten alles intern bei Proton mit den Garantien, die wir geben. Das sollte eine attraktivere Option für diese Art von Arbeitsbelastung sein, und das ist es, worauf wir bei der Entwicklung von Lumo hoffen. Ich denke, das bringt uns zu den Decoder-Fragen zu Struktur und Organisation, denn dort muss die Struktur gefühlt sein, dort liegt das Vertrauen, nicht unbedingt die technische Architektur. Wie ist Proton heute aufgebaut? Wie viele Leute gibt es? Proton hat heute also insgesamt etwa 650 Menschen. Dazu gehören Technik, Supportfunktionen, Marketing usw. Dazu gehört auch der Kundensupport, den wir intern durchführen. Das haben wir immer getan. Wir sind ein Unternehmen namens Proton AG, ein Schweizer Unternehmen. Eine Mehrheitsbeteiligung an der Proton AG wird jedoch von der Proton Foundation gehalten, die mit Aktien von Andy, unserem CEO, und anderen frühen Mitarbeitern ausgestattet wurde. Es gibt andere Mitreisende mit, ich würde sagen, einigermaßen ähnlichen Strukturen. Signal und Mozilla, und unsere Gründe sind die gleichen. Die Mehrheitsbeteiligung der Proton Foundation am Proton-Unternehmen bedeutet, dass sie befugt ist, die Mission zu schützen. Es ist eine Schweizer Stiftung. Ich bin kein Anwalt, aber mir wurde gesagt, dass es sehr schwierig sei, etwas zu ändern. Seine Aufgabe ist der Hüter der Werte und der Mission von Proton. Sollte also das Unternehmen Proton von dieser Mission abweichen, wäre die Proton Foundation befugt, den Kurs zu korrigieren, wenn das sinnvoll ist. Ist das jemals passiert? Nein. Bisher nein. Wir haben unseren Gründer und CEO, Andy Yen. Andy hat das Unternehmen gegründet, und solange er das Sagen hat, glaube ich nicht, dass das nötig sein wird. Aber wenn er vom Bus angefahren wird, gibt es eine Unternehmensstruktur, die darauf ausgelegt ist, die zukünftige Mission zu schützen und sicherzustellen, dass das Unternehmen trotzdem nicht vom Weg abkommt. Auch aufgrund dieses Eigentümermodells ist das Unternehmen beispielsweise vor einer Art Übernahme oder einem Kauf geschützt, der auch seine Prioritäten ändern könnte. Ich denke, dieser Faktor, die Technologie und das Geschäftsmodell sind im Grunde ineinandergreifende Schutzmaßnahmen gegen den Verrat, den wir mit unseren Nutzern haben. Wenn ich mit immer mehr Unternehmen spreche, die zu einem solchen Gründungsmodell übergegangen sind, fällt mir auf, dass diese Struktur im Wesentlichen dazu dient, Sie vor den räuberischen Anforderungen des Kapitalismus zu schützen. Sie werden nicht dazu gedrängt, vierteljährlich so viel Geld wie möglich zu verdienen, um die Dinge zu tun, mit denen Sie das meiste Geld verdienen würden, und das bedeutet, dass sich die Technologie möglicherweise in einem reinen und idealistischen Zustand des Schutzes der Privatsphäre entwickeln kann, anstatt dem Geld nachzujagen. Spüren Sie diese Isolierung? Ich meine, Sie müssen zwar Geld verdienen, Ihre Mitarbeiter bezahlen und auf irgendeine Weise wachsen, aber welche Dynamik haben Sie bei der Entwicklung der Produkte? Die kurze Antwort lautet also nein, und der Grund dafür ist, dass ein Teil unserer Mission darin besteht, im Kapitalismus zu konkurrieren. Unser Hauptkonkurrent ist Big Tech. Auch wenn wir viel kleiner sind als Big Tech, wo unsere Nutzer herkommen, wenn wir Leute konvertieren, wenn wir neue Kunden gewinnen, kommen sie im Allgemeinen von Big Tech. Wir müssen das gleiche Spiel spielen. Das mag vielleicht etwas kitschig klingen, aber unser Unternehmensmotto lautet „Privacy by Default“. Dieser „Standard“-Teil besteht darin, viel schwere Arbeit zu leisten. Ich habe bereits erwähnt, dass es unser Ziel ist, Produkte zu entwickeln, die einfach zu bedienen und sicher sind. Es gibt viele Tools, die sicher sind, und niemand – außer ein paar Experten – nutzt sie. Und das ist in Ordnung. Ich kritisiere nicht die Existenz dieser Tools, aber unser Ziel ist es, Tools zu entwickeln, die jeder nutzen kann, ohne die Kryptografie zu verstehen, ohne überhaupt zu wissen, dass es sich um Kryptografie handelt, die er nutzen kann, und die genauso einfach zu nutzen und so funktionsreich sind wie unsere unverschlüsselten und im Wesentlichen Data-Mining-Konkurrenten. Das ist eine große Aufgabe.  Ich sage nicht, dass wir es schon zu 100 Prozent geschafft haben, aber das ist das Ziel. Aber das Standardwort in „Privacy by Default“ bedeutet Wachstum. Das bedeutet, dass wir in der Größenordnung sein müssen, in der wir eine echte Alternative zu Big Tech bieten können. Und kleine Startups, kleine Scaleups, die 100-mal oder 10-mal kleiner als Big Tech sind, werden es nicht schaffen. Dafür müssen wir wachsen. Wachstum ist also, wenn man so will, tatsächlich Teil der Mission. Das bedeutet, dass wir ... das Wort ist nicht räuberisch, aber wir müssen so hungrig, effizient und wachstumsorientiert sein wie möglich, denn das ist Teil der Mission, groß genug zu werden, um das aktuelle Paradigma tatsächlich herauszufordern. Ich meine, wir können derzeit über alle möglichen Arten des Zusammenbruchs des Kapitalismus sprechen, aber wir müssen das Spiel mitspielen. Ja. In Ordnung. Ich werde einen Vergleich anstellen, den Sie hassen werden. Ich lasse es Sie nur wissen. Ich weiß, dass du es hassen wirst. Okay. Die vielleicht berühmteste Idee „Wir bauen ein Fundament, um uns vor den Anforderungen des Marktes zu schützen und sicherzustellen, dass die Sache gesund ist“ stammt von OpenAI, das diese Struktur im Grunde zerstört hat, um einen Börsengang anzustreben, oder? Vielleicht haben sie noch wirklich wichtige und idealistische Vorstellungen, wie AGI entwickelt werden sollte. Vielleicht denken einige Leute in diesem Unternehmen wirklich so, und es hat einfach nicht funktioniert, oder? Sie mussten das Wachstum auf ganz bestimmte Weise anstreben, aus welchem ​​Grund auch immer sie fühlten. Vielleicht war es Geld, vielleicht ging es einfach darum, die Google-Suche so zu übernehmen, wie OpenAI es wollte; Sie mussten die Struktur des Unternehmens ändern. Das ist offensichtlich passiert. Es ist wie einer der apokalyptischsten Gründungsmomente, die es je gegeben hat. Dieses Ding ist einfach explodiert oder implodiert. Wenn man sich das anschaut und dann denkt: „Okay, wir müssen wachsen. Um der Standard zu sein, müssen wir groß werden, aber wir machen dieses Versprechen, das Google nicht machen muss, oder Microsoft nicht machen muss“, wo liegt da die Spannung? Wie drückt sich das aus, wenn Sie die Architektur der Produkte entwerfen, was möglicherweise einige Möglichkeiten ausschließt? Was auch unser Unternehmensmotto sein könnte – das ist es nicht, aber es könnte sein – ist „Go Big or Go Home“. Bescheidene Ziele setzen wir uns da sicher nicht. Aber ich denke, dass es ein paar Dinge gibt, die es anders machen. Ich habe bereits viele Einschränkungen erwähnt, aber eine Sache, die ich nicht erwähnt habe, ist, dass wir keine VC-Investoren haben. Wir haben keine Private-Equity-Investoren. Wir verbrennen nicht das Geld anderer Leute, während uns VCs im Nacken sitzen und wir bald aussteigen müssen, sonst gehen wir in die Pleite. Wir haben ein nachhaltiges Unternehmen aufgebaut. Wir reinvestieren die Gewinne aus diesem Geschäft wieder in das Unternehmen. Und das schützt uns vor einem Teil des Drucks, den OpenAI sicher verspürte, wenn man bedenkt, dass sie ständig enorme Geldbeträge in Brand steckten, oder? Aber Personal ist Politik. Ich denke, dass dieses Risiko sicherlich immer besteht. Gleichzeitig haben wir in letzter Zeit häufig herausgefunden, dass Regeln, Normen oder Richtlinien manchmal nicht geschrieben sind. Ungeschrieben oder nicht, sie sind das Papier nicht wert, auf dem sie geschrieben sind. Aber hier kommt auch die Architektur ins Spiel. Wir treffen Entscheidungen über die technischen Dinge, und natürlich bin ich auf der technischen Seite dieses Geschäfts, aber wir haben Entscheidungen getroffen, und einige davon haben geschäftliche Wettbewerbsgründe, nicht wahr? Wir möchten Produkte verkaufen, bei denen wir sagen: „Wir können nicht auf Ihre Daten zugreifen. Wir haben keinen Zugriff auf die Daten. Wir können sie nicht verlieren. Wir können sie nicht verkaufen. Das können wir nicht.“ Aber das hindert uns auch daran, uns eines Tages dazu zu entschließen, es umzudrehen und zu verkaufen, weil wir es in einer Kiste eingeschlossen haben und keinen Zugriff darauf haben. Deshalb können wir uns nicht umdrehen und sagen: „Weißt du was? Tut mir leid, Leute, wir haben es uns anders überlegt. Wir werden tatsächlich all diese Daten durchsuchen und loslegen.“ Ist nun etwas perfekt? Nein. Aber ich meine, die Struktur ist so konzipiert, dass wir, wie gesagt, diese ineinandergreifenden Kontrollen haben. Ich denke, die andere Sache ist, dass selbst wenn, sagen wir, die Proton Foundation meines Wissens die Proton AG nicht verkaufen darf, aber selbst wenn aus irgendeinem Grund etwas passiert, liegt der Wert von Proton im Ruf. Und das haben wir gesagt, und es war eine bewusste Entscheidung. Der Wert von Proton liegt im Vertrauen, das wir haben. Wenn Google uns kaufen würde, wäre das wertlos, weil Google nicht die Glaubwürdigkeit besitzt, Proton zu betreiben. Verstehst du, was ich meine? Das ist einfach die Vorgabe, dass Google etwas kauft. Ich möchte das nur ganz klar sagen. [Lacht] Nein, sie haben es abgeschaltet und dann ist es weg, oder? An diesem Tag begann die Uhr zu ticken. Ja. Ich weiß. Es ist schon einmal passiert, es wird wieder passieren, da bin ich mir sicher. Aber die Struktur der Proton Foundation soll sagen: „Nein, das Unternehmen kann nicht an einen Käufer verkauft werden.“ Das ist die Makrostruktur. Erzählen Sie mir einfach von der eher taktischen Struktur innerhalb des Unternehmens, das ein Produkt entwickelt. Wie ist Proton selbst aufgebaut? Gibt es ein Team, das den Lumo-Assistenten herstellt? Gibt es ein Team, das E-Mails erstellt? Sind es Spaltungen? Ist es funktionsfähig? Wie soll das gehen? Wir haben also eine Abteilungsstruktur, eine Geschäftseinheitsstruktur. Wir haben bestimmte Produkte, die gebündelt sind, wie z. B. E-Mail und Kalender, sodass sie in derselben Abteilung gebündelt sind. Die anderen sind getrennt. Wir haben also Lumo, wir haben Drive, wir haben Pass und wir haben VPN. Dies sind separate Abteilungen. Sie treffen Entscheidungen über die Unternehmensstruktur basierend darauf, welche Kommunikation für Sie am einfachsten sein soll. Das soll es den Menschen ermöglichen, sich schnell zu bewegen und Autonomie zu haben und Entscheidungen innerhalb ihres Produkts zu treffen. Wir haben auch organisationsübergreifende Teams, Support-Teams und ähnliches. Und auf dieser Seite besteht der Nachteil der Geschäftseinheitsstruktur darin, dass wir manchmal härter arbeiten müssen. Es ist ein bisschen so, als würde man Katzen einsperren, oder? Wo man sicherstellen muss: „Okay, ich baue diese Funktion, die alle Produkte betrifft. Ich muss sicherstellen, dass alle Produkte an Bord sind und dass sie es in ihrer Planung haben, damit wir sie korrekt versenden können.“ Sie treffen also Entscheidungen darüber. Wir haben uns bewusst dafür entschieden, der produktinternen Kommunikation Vorrang einzuräumen. Und dann versuchen wir, die Defizite in unserer produktübergreifenden Kommunikation auszugleichen. Wenn wir dann zu mehr und mehr ökosystembasierten Dingen übergehen, treffen wir möglicherweise andere Entscheidungen hinsichtlich der Unternehmensstruktur, um dies zu unterstützen. Die ganze Sache mit Conways Gesetz. Sie versenden Ihr Organigramm, möchten aber manchmal das Beste aus beiden Welten, und hier kommt der Prozess ins Spiel. Es ist nicht immer sexy, aber Sie finden es auf jeden Fall sehr wichtig, wenn Sie Organisationen skalieren. Sie könnten der erste Decoder-Gast sein, der den direkten Zusammenhang zwischen der Tatsache, dass ich jeden frage, wie sein Unternehmen strukturiert ist, und der Tatsache, dass Sie Ihr Organigramm versenden, herstellt, weshalb ich immer frage, weil es die grundlegende Wahrheit ist. Das tun Sie, und wir haben bis zu einem gewissen Grad damit zu kämpfen. Wir versuchen es zu kompensieren. Aber ja, Sie versenden Ihr Organigramm. Wenn Sie also möchten, dass Ihre Produkte anders aussehen, sollten Sie Ihr Organigramm anpassen, um diesen Unterschied zu unterstützen, oder? Ich meine, letztendlich. Die andere Decoder-Frage, die ich jedem stelle, betrifft Entscheidungen. Sie müssen viele Entscheidungen treffen. Sie versuchen, eine neue Art von Produktarchitektur aufzubauen, die den gleichen Einschränkungen unterliegt wie Ihre Konkurrenten. Wie treffen Sie Entscheidungen? Was ist Ihr Rahmen? Wie treffe ich Entscheidungen? Wir sind ein gründergeführtes Unternehmen. Andy gründete Proton. Ich war, glaube ich, Angestellter sechs, möchte ich sagen. Das ist an sich schon eine lustige Geschichte. Weißt du, wie ich Andy kennengelernt habe? Wie ist das? Er war mein Doktorand am CERN. Ich war Postdoktorand in Harvard und er war mein Doktorand. Und dann kommt er und findet mich im Silicon Valley, nachdem ich die Physik verlassen habe, und sagt: „Hey, willst du meinem Startup beitreten? Du kannst CTO werden.“ Wie auch immer, und hier sind wir 11 Jahre später.  Aber er ist immer noch stark involviert. Er hat viel Einfluss auf die Produktausrichtungsstrategie und ist ein Visionär. Ich denke, er ist für einen Großteil des Erfolgs von Proton verantwortlich. Er ist bereit, Risiken einzugehen, solche Dinge. Ich glaube offensichtlich an seine Führung, sonst wäre ich nach elf Jahren nicht mehr hier. Dennoch denke ich, dass etwas, das Visionären manchmal passiert, ist, dass sie sich mit Menschen umgeben müssen, die sie herausfordern, wenn sie vielleicht etwas zu weit über ihre Grenzen hinausgehen, oder dass sie auch sicherstellen müssen, dass wir Ideen von anderen Orten haben. Wir versuchen wirklich sicherzustellen, dass Ideen nach ihren Vorzügen und nicht unbedingt nach ihrer Herkunft beurteilt werden. Und so haben wir ein Führungsteam, dessen Aufgabe es ist, zwar umzusetzen, aber auch neue Ideen einzubringen und sie zu verkaufen und solche Dinge. Ich werde nicht sagen, dass wir darin perfekt sind, denn niemand ist es, und wir haben viele Dinge, die wir verbessern können, aber wir versuchen, die Entscheidungsfindung in der Organisation nach unten zu drängen. Der Sinn einer Organisation besteht darin, dass man viele verschiedene Leute in die gleiche Richtung lenken kann. Der Trick ist immer: Wie erreicht man eine Ausrichtung in die gleiche allgemeine Richtung und behält gleichzeitig Autonomie, so dass man nicht alles im Mikromanagement verwaltet? Und ich sage nicht, dass wir immer die richtige Balance finden, aber das ist hier das Ziel. Wenn wir bei der Einstellung neuer Leute bei Proton diese Art der Orientierung durchführen, sagen wir immer: „Ich möchte hören … Sie sind noch nicht an unsere Art, Dinge zu tun, gewöhnt.“ Deshalb möchte ich, dass Sie sich unsere Vorgehensweise anschauen. Wenn Sie Erfahrungen mit einem anderen Arbeitgeber gemacht haben oder glauben, dass dies entweder verrückt oder ineffizient ist, dann sagen Sie es uns. Und wir sagen ganz klar: Ja, natürlich haben wir eine Hierarchie, und ein Teil davon ist unsere Größe, aber wir haben sehr selten mehr als, sagen wir, drei oder vier Führungsebenen. Wir sagen immer: „Sehen Sie, wenn Sie mich anpingen müssen, müssen Sie den CEO anpingen, Sie müssen direkt mit den Leuten sprechen, tun Sie es einfach.“ Es ist eine andere Sache, und auch hier spreche ich für mich selbst, aber ich denke, das ist bei Proton üblich: Ich sage den Leuten: „Ich verspreche nichts und bin nicht verpflichtet, Ihnen zuzustimmen, aber Sie werden es nie bereuen, mir gesagt zu haben, was Sie denken“, im Grunde. Also versuchen wir das zu tun. Und das verdanke ich Andy, aber wir haben sehr wenig Innenpolitik. Vielleicht liegt das nur daran, dass wir noch nicht sehr groß sind, aber wir haben keinerlei Toleranz gegenüber Lehnsgütern oder Innenpolitik, und das macht die Sache auch einfacher. Es besteht das starke Gefühl, dass wir alle in die gleiche Richtung weisen und dass es nicht meine Abteilung ist, die ich ausbauen möchte, sondern Proton im Allgemeinen. Ich denke, dass das zum Teil damit zusammenhängt, dass wir ein missionsorientiertes Unternehmen sind. Ich weiß nicht, ob Sie diese Erfahrung jemals gemacht haben, aber für diejenigen unter Ihnen, die es nicht getan haben: Ich habe beides erlebt. Ich war vor langer Zeit Physiker im Rahmen der CERN-Kollaboration, und da haben Sie die grundlegende Natur des Universums. Ich halte das für eine missionarische Tätigkeit. Ich hatte danach auch einen Aufenthalt im Silicon Valley, der Spaß und interessante technische Probleme hatte, aber das habe ich verpasst. Und bei Proton ist die Mission wirklich … Wir müssen aufpassen, dass es nicht organisatorische Probleme überdeckt, die wir wirklich lösen sollten, sagen wir mal so. Aber es macht die Arbeit wirklich einfacher, wenn alle in dieser Hinsicht einer Meinung sind. Lassen Sie mich dazu eine Frage stellen, und dann möchte ich auf den Druck eingehen, den Proton verspürt, und darauf, wie Sie die gesamte Struktur in die Praxis umsetzen, um diesem Druck standzuhalten. Zu Beginn meiner Karriere hatte ich keine Ahnung, wie ich jemanden führen sollte. Ich ging zu vielen Leuten und stellte ihnen eine Menge Fragen. Einer der klügsten Mentoren in all dem setzte sich mit mir zusammen und sagte mir sehr ernst: „Sehen Sie, Sie stellen keine Leute ein, um sie wie Sie zu machen. Sie stellen Leute ein, um Ihre Organisation zu verändern.“ Das habe ich mir zu Herzen genommen, und vielleicht denke ich nach 15 Jahren: „Das ist eigentlich ein Pendel. Man braucht Leute, die sich für das interessieren, was man tut. Sonst wird jede neue Person, die man einstellt, das, was alle anderen tun, radikal stören, weil sie vielleicht übermächtig sind und nicht wirklich auf der gleichen Seite sind.“ Proton hat eine Mission, oder? Sie beschreiben es als ein missionsorientiertes Unternehmen. Wie gelingt es Ihnen, die Balance zwischen der Einstellung neuer Leute und der Außenperspektive auf das, was Sie falsch machen, zu finden und dabei nicht völlig aus der Bahn zu geraten? Weil es in einem Unternehmen wie Proton sehr wichtig zu sein scheint. Ich meine, Kultur ist extrem wichtig. Es ist äußerst wichtig. Das kommt auch von oben. Andy, wenn Sie ihn fragen würden, was das Wichtigste in einem Unternehmen ist, würde er höchstwahrscheinlich Kultur sagen. Aus diesem Grund versuchen wir, bei der Einstellung unserer Mitarbeiter sehr vorsichtig zu sein. Wir stellen relativ langsam ein. Ich wünschte, wir könnten schneller einstellen. Ich denke, die Einstellung von Mitarbeitern gehört zu den Dingen, in denen wir besser sein könnten, aber wir nehmen diese Masseneinstellungen, Massenentlassungen und solche Dinge nicht vor, weil ... Und wir stellen nicht so schnell ein, dass wir die Kultur verwässern. Wir wollen Menschen in die Proton-Kultur integrieren, nicht unbedingt … Und ja, manchmal müssen wir sie ändern, manchmal müssen wir sie weiterentwickeln, aber wir möchten, dass dies bewusst geschieht. Ich hatte vielleicht auch eine ähnliche Entwicklung als Manager. Ich habe alle Wachstumsphasen von Proton miterlebt. Ich habe also schon früh viel Code geschrieben und war dann quasi Teamleiter. Dann war ich Manager von Managern. Irgendwann leitete ich die gesamte Technik von Proton. Dann habe ich einige der Managementaufgaben abgegeben, aber die technische Leitung des CTO behalten. In diesem Kurs habe ich bestimmt auch viele Fehler gemacht, oder? Schon früh musste ich mir beibringen, andere Leute nicht dazu zu bringen, mich zu mögen, nicht, vielleicht nicht, Mikromanagement, aber nicht einfach den Leuten zu sagen, was sie tun sollen, und sie es dann ausführen zu lassen. Und dann habe ich später eine Phase durchgemacht, in der mir klar wurde, dass die Leute lernen müssen, dass sie ihre eigenen Fehler machen müssen. Ich möchte Leute mit Fachwissen importieren; Ich bin nicht unfehlbar. Lass uns das machen. Das war wohl zu freizügig. Wir hatten einige … nichts Katastrophales, aber wir hatten einige teure Fehler, bei denen ich ein schlechtes Gefühl hatte, die ich aber trotzdem durchgehen ließ. Weil ich das versucht habe.  Das ist das Schlimmste. Ich glaube also, dass Mäßigung nicht besonders attraktiv ist, aber sie ist es. Es ist ein Gleichgewicht. Sie möchten nicht vorschreiben, wie Dinge erledigt werden, aber Sie möchten auch sicherstellen, dass Sie da sind, um Menschen davon abzuhalten, wirklich katastrophale oder teure Entscheidungen zu treffen. Sie können die Mauer in der Ferne sehen und möchten sicherstellen, dass das nicht passiert. Ja, es ist nicht die dramatischste Antwort, aber vieles davon hängt davon ab, die richtige Balance zu finden, Mäßigung. Der Grund, warum ich so viel Zeit mit der technischen Seite und der Unternehmensstruktur sowie der Kultur verbracht habe, ist, dass Proton einem großen Druck ausgesetzt ist. Und all dies ist, wie Sie beschrieben haben, darauf ausgelegt, diesem Druck standzuhalten und Produkte zu bauen, die diesem Druck auf unterschiedliche Weise nicht schaden können. Beginnen wir einfach mit, ich weiß nicht, den Regierungen der Welt, die großen Druck auf Proton ausüben und viele, viele Möglichkeiten gefunden haben, die Art von Kontrollen zu umgehen, die Sie zum Schutz der Benutzerdaten eingeführt haben. Also fangen wir einfach mit dem spritzigsten an. Im März stellte ein Bericht von 404Media fest, dass Proton die Zahlungsdaten eines Kontos namens Stop Cop City weitergegeben hatte, das sich in den Vereinigten Staaten befindet. Sie übergaben diese Daten an die Schweizer Behörden, die sie dann an das FBI weitergaben, was zu ihrer Identifizierung führte. Und das sind Metadaten; Ich glaube nicht, dass es tatsächlich an den Daten, den Inhalten der E-Mails liegt. Protons Argument lautet: „Sehen Sie, wir haben dem FBI eigentlich nie etwas gegeben. Wir sind lediglich einer rechtlichen Aufforderung der Schweizer Regierung nachgekommen.“ Beginnen wir mit den Grundlagen. Was darf die Schweizer Regierung gesetzlich von Ihnen verlangen? Und untergräbt die Tatsache, dass sie nur als Stellvertreter der US-Regierung fungieren können, dieses Vertrauen oder setzt sie Ihre Strukturen in irgendeiner Weise unter Druck? Daher wird jedes Unternehmen irgendwo eine Gerichtsbarkeit haben und der Gerichtsbarkeit unterliegen. Kein Unternehmen und keine Einzelperson steht über dem Gesetz. Und kein Unternehmen wird für Sie ins Gefängnis gehen. Allerdings können Sie Strukturen so gestalten, dass hier Absicherungen bestehen. Und unser Schutz ist zum Beispiel, dass wir ein Schweizer Unternehmen sind. Und tatsächlich wurden wir immer wieder gefragt: „Hey, können Sie einfach auf Anfragen befreundeter Regierungsbehörden antworten?“ Wir haben wiederholt Nein gesagt, weil es nicht unsere Aufgabe sein kann, zu entscheiden, was legitim ist und was nicht. Das können wir nicht übernehmen. Was wir also tun, ist, dass wir unsere Produkte so konstruieren, dass sie innerhalb der Grenzen ein Produkt herstellen, das die Leute nutzen wollen und nutzen können und das seine Aufgabe erfüllt, aber wir konstruieren unsere Produkte so, dass sie so privat wie möglich sind.  Wir unterliegen der schweizerischen Gerichtsbarkeit. Anträge auf gegenseitige Rechtshilfeverträge, MLAT-Anträge, kommen von Regierungen. Die Schweizer Behörden entscheiden, was legitim ist und was nicht. Daran sind wir nicht beteiligt. Und dann erteilen sie einen Befehl, wir befolgen diesen Befehl, und so muss es sein. Wir haben unsere Gerichtsbarkeit ganz bewusst so gewählt, dass die Schweizer bekanntermaßen neutral sind. Jede Regierung besteht aus Menschen, aber sie haben den Ruf, vernünftige Menschen zu sein, und dieses System hat ziemlich gut funktioniert. Im Allgemeinen gibt es Länder, die weniger vertrauenswürdig sind als andere, und diese Anfragen … Wir haben keinen genauen Überblick darüber, woher die Anfragen kommen, aber die Anfragen, die wir von guter Autorität haben, werden normalerweise nicht berücksichtigt. Auch wenn die Meinungen der Menschen heutzutage unterschiedlich sein können, so fordert das FBI, wird ihnen tendenziell eine gewisse Legitimitätsvermutung zugeschrieben, sie werden jedoch immer noch von den Schweizer Behörden bewertet. Und was wir dann tun, ist, uns daran zu halten. Wir haben hier keinen Ermessensspielraum. Und das wäre bei allem der Fall, aber wir haben das System so gestaltet, dass wir denken, dass es eines der sichersten ist, das gebaut werden kann und legal bleibt. Lassen Sie mich Sie einfach danach fragen, denn Sie sind ein Systemmensch. Du beschreibst ein System. Ja. Der Fehlerpunkt dieses Systems, wie Sie es mir beschreiben, besteht darin, dass die Schweizer Regierung eine Reihe von Entscheidungen darüber treffen wird, was Sie einhalten müssen. Die Regierung der Vereinigten Staaten, und zwar in diesem Fall, glaube ich, hat erkannt, dass sich die Schleusen für die Mechanismen des Datenaustauschs öffnen, wenn sie nur sagen, dass alles Terrorismus ist. In diesem Fall handelt es sich also um ein Konto mit dem Namen „Stop Cop City“. „Sie sagten, das sei Terrorismus. Hier in den Vereinigten Staaten ist die Frage, ob die Behauptungen der Regierung, alles sei Terrorismus, legitim sind oder nicht, meines Erachtens weit offen für Debatten. Klar. Aber es scheint, als hätten sie etwas gefunden, was Sie als Angriffsvektor auf die Mechanismen der Schweizer Regierung bezeichnen würden. Wenn Sie diese magischen Worte sagen, wird die Schweizer Regierung zu Ihnen kommen und anfangen, nach Metadaten zu fragen. Fühlt sich das angemessen an? Fühlt sich das überlebensfähig an? Ich denke, dass viele dieser Dinge irgendwann in der Hand der Menschen liegen werden. Wir haben unser Bestes getan, und ich glaube nicht, dass die Menschen unterschiedliche Meinungen darüber haben werden, welche Anfragen legitim sind und welche nicht, aber wir haben unser Bestes getan, indem wir gesagt haben: „Okay, die Schweizer Behörden werden entscheiden, und dann werden wir uns an alles halten, was sie sagen, weil wir eine Schweizer Gerichtsbarkeit sind.“ In der Zwischenzeit können wir das tun und können – und natürlich gibt es Gesetze, die dies regeln – aber wir tun alles, was wir können, um die Datenmenge, die wir weitergeben können, zu minimieren. Ich meine, Zahlungsdaten können wir verschlüsseln. Wir nutzen Zahlungsabwickler. Sie können es aus vielen verschiedenen Quellen beziehen. Wenn Sie also eine Kreditkarte haben und eine rechtliche Anfrage eingeht, können wir nicht viel tun, oder? Sie haben Systeme erwähnt, weil ich das für wichtig halte. Was mir wichtig ist, und das ist mir klar ... Ich möchte nicht, dass das für einen konkreten hypothetischen Missbrauchsfall, der möglicherweise nicht der Fall war, gefühllos klingt ... Natürlich können Fehler gemacht werden. Aber ich möchte ein System wie das, das wir haben. Das heißt, wenn die Regierung einen vernünftigen Grund hat und die Menschen in einem definierten Prozess davon überzeugen kann, Daten bereitzustellen, dann sollten die Daten wahrscheinlich bereitgestellt werden. Was mir wirklich Sorgen bereitet, ist, dass wir oft in einer Welt leben, in der die Regierung stattdessen fragen kann: „Geben Sie mir alle Ihre Daten, und ich werde nach Problemen suchen.“ Ich werde nach einem Verbrechen suchen.“ Das Wort „Abhören“ stammt aus einer Zeit, als man buchstäblich zu Ihnen nach Hause gehen und das Kabel abhören musste. Ich glaube nicht, dass damals wirklich darüber nachgedacht wurde, aber das – der tatsächliche physische Akt, dies tun zu müssen – stellte ein Hindernis dafür dar, dass man nicht alle gleichzeitig überwachen konnte. Es war einfach logistisch unmöglich. Wir leben heute in einer Welt, in der man jeden überwachen kann, also wollen wir Dienste und Systeme aufbauen, in denen dies unmöglich ist, oder? Wobei die Standardeinstellung „Privatsphäre“ sein sollte, wie ich schon sagte, „Privatsphäre standardmäßig“.  Ja, wir reagieren auch auf legitime Anfragen von Strafverfolgungsbehörden, wie auch immer Sie sie als legitim definieren. Und diese berechtigte Frage wird immer eine Frage des Prozesses sein, in dem wir natürlich nur ein Akteur sind. Aber ich denke, das ist das- Nun, hier gibt es Legitimität und es gibt eine Marktdynamik. Daher hat die Schweizer Regierung in den letzten Jahren viel Druck auf Proton ausgeübt. Sie möchten, dass Sie grundsätzlich über ein unverschlüsseltes VPN verfügen und Benutzerdaten entschlüsseln können, die über das VPN übertragen wurden. Ich glaube, Proton hat deswegen damit gedroht, die Schweiz zu verlassen, und dann haben Sie angekündigt, dass Sie eine stärker verteilte Infrastruktur aufbauen und einen Teil dieser Infrastruktur in Deutschland und Norwegen platzieren würden. Wir kommen zur Chat-Steuerung. Ich glaube, die EU hat gestern eine Version dieses Gesetzes verabschiedet, und Protons Antwort war: „Wir werden die EU einfach verlassen.“ Wir werden uns aus dieser rechtlichen Zuständigkeit herausziehen.“ Ich möchte darüber im Detail sprechen, aber in dem breiteren Kontext, über den Sie gerade sprechen, treffen Sie doch eine Auswahl, oder? Sie entscheiden sich für eine Stiftung und oft lautet die Antwort: „Wenn Sie hier die rechtliche Grundlage ändern, werden wir gehen.“ Ja. Wie real ist das? Es ist absoluter Ernst. Bei allem Respekt vor den Schweizer Behörden und allen anderen halte ich es für absolut selbstmörderisch, diesen Weg fortzusetzen. Ich meine, ein Teil der Schweizer Marke ist Privatsphäre. Das ist schon seit 80 Jahren so, und sie haben ein gutes Ergebnis, größtenteils über Proton, aber sie haben auch gute Argumente dafür, diesen Ruf und diese wirtschaftlichen Vorteile – denn es gibt viele Unternehmen, viel Handel, die Vertraulichkeit erfordern – ins 21. Jahrhundert, ins digitale Zeitalter, zu übertragen. Und es wegzuwerfen ist meiner Meinung nach gelinde gesagt kurzsichtig. Aber nein, es ist eine ernsthafte Bedrohung. Das Besondere an digitalen Diensten ist, dass sie verschoben werden können. Dabei gibt es viel Flexibilität. Ich meine, ich denke, wenn wir wirklich dystopisch werden, gibt es vielleicht eine Welt, in der es keinen Ort gibt, an den wir ziehen können, aber im Moment gibt es Optionen. Es ist sicherlich auch... Es ist eine Bedrohung. Ich meine, es ist eine echte Bedrohung. Wir hoffen, dass wir es nicht tun müssen. Wir hoffen, dass die Machthaber darauf reagieren und ihren Kurs ändern, aber ja. Das ist mit Kosten verbunden, oder? Ich bin neugierig darauf- Es ist ein Kostenfaktor. Nun, es ist ein Kostenfaktor. Wir müssen es tun, aber es ist vielleicht nicht so teuer, wie Sie vielleicht denken. Wir haben bereits Mitarbeiter in verschiedenen Ländern. Wir haben Außenbüros und wir haben andere Dinge. Wir verfügen über Rechenzentren in Deutschland. Wir haben Rechenzentren in Norwegen. Um nicht zu gleichgültig zu sein, aber wir könnten eine unternehmensweite Umkehrung an einen anderen Ort durchführen und dann sagen: „Okay, alle rechtlichen Anfragen müssen hier durchkommen.“ Und alle Daten sind in- Wie verhält sich das mit „Man kann es nicht verkaufen“? Der Teil, in dem Sie sagen: „Es ist eine Schweizer Stiftung. Sie ist sehr schwer zu verkaufen.“ Sie möchten die Schweiz verlassen und sich in Deutschland wieder niederlassen. Wird die Schweizer Regierung Sie aufhalten? Ich muss das aufschieben, da ich kein Anwalt bin. Ich habe keine Ahnung, aber ich bin sicher, dass es möglich ist. Ich bin nur neugierig, weil es sich, zumindest zum Zeitpunkt dieses Gesprächs, so anfühlt, als ob die NATO immer noch existiert. Deutschland und Norwegen sind noch in der EU. Es gibt Schweizer Recht, es gibt deutsches Recht, dann gibt es EU-Recht. Und auch die EU-Gesetzgebung verschärft zunehmend die Frage, was gescannt werden darf und was nicht. Ich habe Chat Control bereits erwähnt. Das ist das Gesetz in der EU, das Dienstanbieter dazu verpflichtet, den Inhalt von Nachrichten auf CSAM-Material und andere Arten von rechtsverletzendem Material zu scannen. Das ist ein großes Problem. Ich denke, Proton sagte: „Wir werden die EU einfach verlassen, wenn Sie uns dazu zwingen. Das wird das Kernversprechen brechen.“ Ja. Wenn Sie nach Deutschland und Norwegen ziehen und die EU dann die härteste Version der Chat-Kontrolle verabschiedet, sind Sie dann bereit, das Land zu verlassen? Ja. Wie bereit bist du? Kannst du morgen den Schalter betätigen? Wohin würdest du gehen? Ich weiß es nicht, dafür müsste ich mich mit anderen Leuten beraten. Ich stecke noch nicht so tief darin, aber es ist eine echte Bedrohung. Ich weiß, dass es eine echte Bedrohung ist. Ich weiß, dass wir einige Vorbereitungen getroffen haben, wo wir möglicherweise landen könnten, wenn sowohl die EU als auch die Schweiz dem gegenüber unfreundlich werden. Es gibt verschiedene Dinge. Es gibt praktische Herausforderungen, von denen wir alle wissen, dass so etwas passiert. Es gibt eine Welle, die derzeit im Trend zu liegen scheint, sei es die Altersüberprüfung oder die Aufhebung der Verschlüsselung oder ähnliches, und dagegen kämpfen wir an der politischen Front. Meiner Meinung nach ist es sehr fehlgeleitet. Hoffentlich lässt das Fieber irgendwann nach. Man kann eine Hintertür nicht mit einer amerikanischen Flagge brandmarken und sagen, dass nur gute Leute sie benutzen können. So funktioniert das nicht, auch nicht mit einer EU-Flagge oder so etwas. Vielleicht kommt das ein bisschen zurück. Da ist also der praktische Teil. Was tun wir, wenn das passiert? Was tun wir, wenn das passiert? Letztlich haben Regierungen große Macht über die Politik, und Sie müssen herausfinden, wie Sie diese einhalten können. Wenn Sie dies nicht tun können, verlassen Sie das Land oder unternehmen etwas anderes. Aber es gibt viele Länder auf der Welt, und ich denke, wir werden letztendlich tun, was wir tun müssen. Der andere Teil – ich schätze, nur um Ihre Plattform ein wenig zu nutzen, um die Sache zu verdeutlichen – ist, dass Chat-Kontrolle, Altersverifizierung und all diese Dinge eine sehr schlechte Idee sind. Ich möchte nicht sagen ... Es gibt echte Bedrohungen für Kinder im Internet, und es ist nicht so, dass wir sie nicht ernst nehmen sollten, aber es gibt Möglichkeiten, dies zu tun. Wir haben zuvor über Systemdenken und Systemdesign gesprochen. Es gibt Möglichkeiten, dies zu tun, um die entsprechenden Bedenken auszugleichen und ausgereiftes Material hinter Altersgrenzen zu sperren, die nicht verraten, wer Sie sind. Wenn man einmal ein System aufgebaut hat, das die Anonymität im Internet praktisch abschafft, wie lange wird es dann dauern, bis dieses System ... Ich meine, es ist Tschechows Waffe. Wie lange dauert es, bis jemand vorbeikommt, um es zu benutzen? Wenn es gebaut ist, wird es irgendwann jemand für Zwecke nutzen, für die es nicht konzipiert wurde. Wie lange dauert es, bis China sagt: „Hey, identifizieren Sie für mich alle Dissidenten, die das benutzen“? Denn sie müssen ihren Ausweis für alles im Internet verwenden. Wir wollen also Systeme aufbauen, Internetsysteme, die nicht auf diese Weise kommandiert werden können. So bauen wir Proton, aber ich denke, dieses Prinzip gilt auch für das größere Internet.  Das ist eine Art Gedankenexperiment, oder? Ich werde das wahrscheinlich abschlachten, aber es gab eine verrückte Statistik, dass ein großer Teil der Ostdeutschen auf dem Höhepunkt des Kalten Krieges tatsächlich von der Stasi als Informanten für andere Ostdeutsche eingesetzt wurde. Und der Eiserne Vorhang fiel natürlich ziemlich kurz vor dem Anbruch des digitalen Zeitalters, in gewisser Weise auch des Internetzeitalters. Ich denke, man könnte argumentieren – und ich denke, man kann sich Gegenbeispiele wie China ansehen –, dass einige der autoritären Regime des Ostblocks, wenn sie es in das digitale Zeitalter geschafft hätten, vielleicht genug Kontrolle über Informationen gehabt hätten, um nicht mehr zu fallen, weil das so viel einfacher ist. Die Tatsache, dass Facebook und Google mit ihren Werbe-Ökosystemen wohl die ausgeklügeltsten – okay, Chinas vielleicht –, aber einige der ausgefeiltesten Überwachungssysteme, die je gebaut wurden, aufgebaut haben, machen wir damit das Amerikanischste, was es je gab, nämlich dass wir sie nutzen, um Ihnen Mist zu verkaufen, den Sie nicht brauchen. Das heißt aber nicht, dass das der einzige Nutzen für sie ist, und die Tatsache, dass sie wie Tschechows Waffe auf dem Kaminsims liegen und darauf warten, dass jemand sie aufhebt und etwas wirklich Schreckliches mit ihnen anstellt, stellt eine Bedrohung für die freie Gesellschaft dar. All diese anderen Dinge mit der Chat-Kontrolle und der Altersüberprüfung sind dasselbe. Es heißt: „Wir haben diesen Schaden. Lasst uns ein System aufbauen, um diesen Schaden zu verhindern, das dann für wirklich schändliche Zwecke genutzt werden kann.“ Wir müssen sicherstellen, dass wir keine Systeme entwickeln, die die Existenz einer freien Gesellschaft gefährden. Tut mir leid, das war meine Seifenkistenrede, aber es ist etwas, das mir sehr am Herzen liegt. Der Grund, warum ich Sie so oft nach der Struktur des Unternehmens, seiner Kultur und dem Aufbau der Systeme gefragt habe, ist, dass im Silicon Valley häufig Idealismus zum Ausdruck kommt. Ich habe es von allen großen Unternehmen gehört, die Sie beschrieben haben. Ich höre es heute von großen Unternehmen, und dann schleichen sich die Kompromisse ein. Und manchmal sind die Kompromisse: „Nun, wir haben unseren Sitz in den Vereinigten Staaten. Wir müssen einfach zuhören. Wir können nichts tun. Sie können auf unserer Warrant-Canary-Seite nachsehen, wie viele rechtliche Anfragen wir erhalten, und das wird die Antwort sein.“ Manchmal sind die Kompromisse: „Sehen Sie, wir müssen wachsen. Wir müssen größer werden, und das ist alles.“ Und manchmal gibt es Kompromisse: „Es gibt keine Möglichkeit, ein System aufzubauen, das die Menschen so schützt, wie wir es wollen, und das den gesetzlichen Regelungen entspricht.“ Ich denke, dass die Verschlüsselung der absolute Kern dieser Spannung ist. Ich nenne das Beispiel Apple, weil ich denke, dass jeder mit Apple vertraut ist. Apple wehrt sich routinemäßig gegen diese Forderungen nach einer Hintertür. [Das Unternehmen] ist groß genug, es auf die Art und Weise zu tun, die es kann, und dann wird das iPhone sowieso null Tage alt. Es spielt keine Rolle. Dieser Zyklus wiederholt sich auf eine Weise, die er wiederholt. Aber wenn man mit den Leuten bei Apple spricht, sagen sie: „Sehen Sie, die Regulierungsbehörden kommen zu uns und sagen: ‚Seien Sie einfach schlau. Machen Sie einfach ein paar kluge Sachen, kluge Leute, und finden Sie einen Weg, eine Hintertür zu bauen, die die Privatsphäre schützt.‘“ Und Apples Antwort ist: „Das können Sie nicht.“ Es ist unmöglich. Wir können nicht hart genug sein, um dieses Problem für Sie zu lösen. Ich denke, dass die Regulierungsbehörden absichtlich ignorant sind. Ich denke, die Aufsichtsbehörden wissen das. Und dann gibt es meiner Meinung nach eine riesige Zahl von Aktivisten, die Kinder schützen wollen. Vielleicht verstehen sie es, vielleicht verstehen sie es auch nicht, aber was sie ganz sicher verstehen, ist, dass den Kindern Schaden zugefügt wird, oder?  Alle anderen Systeme, von denen jeder behauptet, sie könnten die Probleme lindern oder das Risiko der Verschlüsselung mindern, existieren in Wirklichkeit nicht, so dass den Kindern nicht in dem Maße Schaden zugefügt wird, wie sie es heute tun. Du sitzt mittendrin. Die Regierungen der Welt kommen zu Ihnen. Sie haben Sie um Hintertüren gebeten. Sie haben Sie gebeten, Chatnachrichten clientseitig zu scannen, um CSAM zu erkennen. Was ist Ihre Reaktion darauf, einfach schlau zu sein? Einfach härter nerden und es herausfinden? Ich meine, es ist unmöglich, eine Hintertür zu schaffen, die nur von den Guten genutzt werden kann. Und die Folgen der Nutzung der Hintertüren durch die Bösewichte sind im Grunde katastrophal, oder? Ich glaube, Sie haben erwähnt, dass es bei diesen Geschwindigkeiten immer noch zu Schäden kommt, und das wäre … Wie im großen Maßstab. Ich denke, es ist wichtig, das klar zu sagen. Der Schaden wird in großem Ausmaß angerichtet. Ich meine, die Bedenken sind berechtigt, oder? Aber wir tolerieren viel Schaden. Wir tolerieren die Einnahme von Dingen, die für einen Erwachsenen nicht gut sind, oder? Und das ist vielleicht US-zentriert, aber es gab mehrere … Ich weiß nicht, ob es immer noch ein Präzedenzfall für den Stand der Dinge ist, aber es gab mehrere Gerichtsurteile, die im Grunde gesagt haben, dass … Ich denke, das hat tatsächlich mit dem Scannen oder etwas anderem zu tun; Sie haben gesagt: „Okay, diese müssen kompatibel und gegen die Einschränkung der Freiheit von Erwachsenen ausgewogen sein, um im Wesentlichen sehr, sehr sicher zu sein.“ Man kann die Gesellschaft sehr, sehr, sehr sicher machen, indem man jegliche Freiheit wegnimmt. Das können Sie tun. Und das ist ein Kompromiss zwischen dem, was wir machen wollen, aber ich glaube nicht, dass die Leute die Tatsache vollständig verinnerlichen, dass zu viel Sicherheit vielleicht eine Welt ist, in der sie nicht so gut leben wollen. Ich denke, es war wiederum Ben Franklin, der nicht zu amerikanisch sein wollte, aber Menschen, die Freiheit gegen Sicherheit eintauschen würden, haben beides nicht verdient. Ich paraphrasiere. Ich bin Amerikaner. Ich lebe jetzt in Europa, bin aber ursprünglich Amerikaner. Es gibt viele Menschen in den USA, die wirklich die Trommel der Freiheit rühren, aber im Grunde bereit sind, ihre gesamte Privatsphäre aufzugeben.  Ich denke, Privatsphäre und Freiheit sind untrennbar miteinander verbunden. Ohne Privatsphäre kann man nicht frei sein. Ich denke also, dass hier ein Kompromiss gemacht werden muss, und wir können darüber diskutieren, was der Kompromiss ist, aber der Kompromiss sollte nicht darin bestehen, dass wir das gesamte System für jeden, der es sehen möchte, transparent machen. Weil es einige wirklich schlechte Leute gibt, die hinsehen wollen. Und selbst wenn Sie glauben, dass die Regierung niemals so ein schlechter Mensch sein wird, was naiv erscheint, aber selbst wenn Sie glauben, dass dies der Fall ist, gibt es überall sonst alle Arten von Cyberkriminellen. Diese Hintertüren oder Schwachstellen – ich denke, Schwachstellen sind einfacher als Hintertüren –, aber diese Schwachstellen, die in der Kryptografie gefunden oder eingeführt wurden, werden seit langem von böswilligen Akteuren ausgenutzt. Die Geschichte ist klar. Es ist unmöglich, eine Hintertür zu haben, die nur von den Menschen ausgenutzt werden kann, für die sie bestimmt ist. Ich denke, es gibt andere Möglichkeiten, dies zu tun. Ich denke, wir müssen- Können Sie diese anderen Möglichkeiten beschreiben? Ich denke, das fehlt vielleicht im Gespräch. Wenn es andere technische Lösungen zur Schadensbegrenzung gäbe, wie würden diese aussehen? Vieles davon würde sich ins Unklare darüber machen, wie man Dinge macht. Fortfahren. Dafür ist diese Show da. Sicher. Es gibt zum Beispiel so etwas wie „Zero-Knowledge-Proofs“, bei denen es sich grundsätzlich um die Fähigkeit handelt, nachzuweisen, dass ich über 18 Jahre alt bin, ohne Ihnen tatsächlich weitere Informationen darüber zu geben. Es gibt tatsächlich mehrere Möglichkeiten, dies zu tun, von denen einige keine Zero-Knowledge-Beweise erfordern, aber diese sind weit entfernt von ... Discord, das, ich weiß es noch nicht, vor ein oder zwei Monaten in Schwierigkeiten geriet, weil es eine Sicherheitslücke gab, bei der die Altersüberprüfung durchgeführt wurde, und dann hatten sie – ich weiß nicht mehr, was es war – eine Art offenen [AWS] S3-Bucket oder so etwas mit Tonnen von IDs und anderen Leuten. Das ist nicht der richtige Weg. Aber ich garantiere Ihnen, dass die Leute das falsch machen werden. Wenn jede Website Ihren Ausweis erfassen muss, stecken wir in großen [Problemen]. Es gibt also Möglichkeiten, dass Aussteller Ihnen beispielsweise von einer vertrauenswürdigen Person einen Ausweis ausstellen lassen. Es kann sich um einen lokalen Berechtigungsnachweis handeln. Es kann ein Ausweis sein. Dabei kann es sich auch um Anmeldedaten handeln, die in der Cloud gespeichert werden, allerdings auf verschlüsselte Weise, sodass der Server die Anmeldedaten nicht sehen kann und Ihr Gerät dann beispielsweise selektiv offenlegen kann, dass das Alter über 18 Jahre beträgt, wenn die Website, die Sie besuchen, dies erfordert. Es muss nicht sein: „Das ist Ihre Adresse, das ist Ihr Name, das ist was auch immer.“ Es kann einfach sein, oh ja, diese Person hat eine kryptographisch signierte eidesstattliche Erklärung, in der steht, dass sie über 18 Jahre alt ist, lasst sie rein. Das ist eine technische Lösung für eine regulatorische Anforderung, oder? Denken Sie, dass die technische Lösung in die Verordnung aufgenommen werden muss, oder soll es eine Regelung geben, nach der man es richtig macht? Oder denken Sie, dass die Branche zusammenkommen und sagen muss: „Wir werden wissensfreie Beweise erstellen“? Nein, ich denke, es hilft auf jeden Fall, wenn die Branche zusammenkommt. Es gibt eine EU-ID-Initiative, die eigentlich ziemlich gut ist. Es ist kein Nullwissen, aber es ist ziemlich gut. Es gibt einige Probleme mit dieser Art von Berechtigungsnachweisen. Offensichtlich können digitale Anmeldeinformationen kopiert werden. Sie möchten daher sicherstellen, dass sie nicht kopiert und im Internet veröffentlicht und von einer Million Menschen verwendet werden. Es gibt also einige Kompromisse bei der Missbrauchsbekämpfung, oder? Sie möchten nicht, dass jeder Teenager in den USA den Ausweis eines Mannes aus irgendeinem Land verwendet. Ich wäre dieser Teenager gewesen, nur um es hundertprozentig klarzustellen. Ich wäre auf jeden Fall dieser Teenager gewesen. [Lacht] Ja, auf jeden Fall. Ich denke, im Allgemeinen sind die Zeitskalen einfach so unterschiedlich. Die Geschichte, exakte Lösungen in regulatorische Rahmenbedingungen zu schreiben, ist ziemlich düster. Aber ich denke, dass die Gesetze, die dies tun, Dinge so formulieren könnten, dass sie den Schutz der Privatsphäre auf eine Weise vorschreiben, die meiner Meinung nach noch nicht geschehen ist. Das würde zur technischen Lösung führen. Das ist es, was ich frage. Die Regierung sagt: „Sehen Sie, Sie müssen mit der Altersüberprüfung beginnen. Die Kinder schauen sich online alle möglichen seltsamen Dinge an. Wir müssen anfangen, einige dieser Inhalte so zu sperren, wie wir, ich weiß nicht, physische Pornoläden sperren.“ Rechts. „Oder wir sperren Filme mit R-Rating. Okay, wir müssen es tun.“ Und die Branche wird sich zwangsläufig für die günstigste Lösung entscheiden; Wir werden Führerscheine einfach in S3-Buckets speichern. Sicher. Oder sie werden sich zwangsläufig für die Lösung entscheiden, die es ihnen ermöglicht, diese Informationen auf irgendeine Weise zu vermarkten, oder? Du sitzt mittendrin. Ihre Ideale und Ihre Struktur hindern Sie daran, die billigste und schlechteste Version davon zu tun. Ja. Wie bringen Sie die Branche dazu, Ihren Werten gerecht zu werden? Liegt es daran, dass die Regulierungsbehörde die Lösung vorschreibt, was Ihrer Meinung nach eine schlechte Idee ist? Liegt es daran, dass sie der Lösung Beschränkungen auferlegen, die dazu führen, dass jeder das Richtige tut? Woher kommt das? Oh, das ist eine knifflige Sache. Wenn ich die Antwort wüsste, würde ich sie vorantreiben. Aber ich denke, Partnerschaften sind eine davon. Ich denke, dass regulatorische Richtlinien darüber, was Sie speichern dürfen, was Sie nicht speichern dürfen und wie viel Sie über Ihre Kunden wissen dürfen, wahrscheinlich von entscheidender Bedeutung sind. Ich denke, das geht vielleicht ein wenig auf Wettbewerbsthemen ein, aber eine Menge potenzieller Schaden entsteht auch durch die vollständige vertikale Integration vieler Dinge. Die Vorschrift, dass die Dinge getrennte Einheiten sein müssen, und deshalb werde ich in diesem Vortrag nicht darauf eingehen, aber dies kann viel dazu beitragen, bestimmte Arten von Schaden und die Versuchung, Dinge zu missbrauchen, zu verhindern. Aber ich denke, Regulierung und die Aufnahme von Datenschutzanforderungen in die Vorschriften sind sicherlich der erste Schritt. Und diese konformen Implementierungen dort haben zumindest das eingebaut. Ich denke auch, dass dies wiederum schwierig ist, aber es kann auch gefährlich sein, es den Betriebssystemherstellern aufzuzwingen, weil es dazu beiträgt, diese Engpässe zu festigen. Wir haben bereits viele Engpässe für Google und Apple hat diese: Es ist lustig. Apple wehrt sich wirklich dagegen, aber Apple liebt es, als Engpassfaktor zu fungieren. Warum lehnen sie Ihrer Meinung nach die Rolle des Altersprüfers ab? Das ist eine gute Frage, ich weiß es eigentlich nicht. Man könnte meinen, dass sie sich darauf stürzen würden, oder? Ich meine, sie lieben es auf jeden Fall, der Engpass im App Store zu sein und jedem 30 Prozent in Rechnung zu stellen.  Ich weiß, dass du einen Streit hattest. Ja. Proton hat sich mit Apple über die App-Store-Richtlinien gestritten. Dies scheint einer zu sein, bei dem ihr Interesse offensichtlich wäre, wenn sie sagen würden: „Eigentlich behalten wir die Kontrolle. Diese 30 Prozent, hören Sie auf, uns wegen der 30 Prozent, den Aufsichtsbehörden, zu belästigen, denn wir werden Ihnen einen Altersnachweis zur Verfügung stellen.“ Ja. Ich meine, ich denke, sie sehen es einfach als ein Spiel ohne Gewinn an, in dem Sinne, dass man KYC machen oder seinen Kunden so gut kennen kann, wie man möchte, aber es wird einige geben, die durchgehen, und dann sind Sie verantwortlich. Vielleicht möchten sie einfach nur, dass ein Dritter das macht, also ist das doch nicht ihr Problem, oder? Ich weiß nicht. Das könnte die ganze Antwort sein. Lass mich dich das fragen. Wir haben über die Altersverifizierung gesprochen. Ich bin mir nicht sicher, ob es eine Antwort gibt, die jedes Problem löst, aber Sie haben einige technische Ansätze dargelegt, die die Nachteile zumindest ausgleichen.  Als ich sagte, dass der Schaden in großem Ausmaß geschieht, meinte ich CSAM – also Material über sexuellen Kindesmissbrauch. Das geschieht in großem Umfang über das Internet. Wir alle wissen es. Es gibt viele, viele Möglichkeiten, es zu mildern. Und dann gibt es einfach Plattformen, auf die wir keinen Einblick haben und auf denen es sowieso passieren wird. Proton ist einer von ihnen. iMessage ist eigentlich etwas anderes, wenn Sie iMessage vollständig verschlüsseln. Dafür erntet Apple viel Kritik. Die Antwort von Apple ist dieselbe wie die von Proton: „Es gibt keine Möglichkeit, dies zu tun. Wir können Ihnen einfach keine Möglichkeit geben, dies zu tun, ohne Hintertüren für alle anderen schlechten Akteure zu schaffen. Sie wollen es, wir werden es nicht tun.“ Welche Lösungen gibt es, um die Schäden von CSAM abzumildern, ohne Hintertüren zu schaffen? Weil ich das Gefühl habe, dass auch das in diesem Gespräch fehlt, besonders wenn ich mit den Aktivisten spreche, die sich auf das Ausmaß des Schadens konzentrieren. Daher kann ich nicht genau beschreiben, was Proton tut, denn Missbrauchsbekämpfung ist eines der Dinge, bei denen Sicherheit durch Unklarheit wirklich hilft. Es hilft, dass die schlechten Akteure nicht wissen, was wir tun. Aber ich kann sagen, dass Sie CSAM bekämpfen können, ohne Inhalte zu scannen. Es ist möglich. Vieles davon ist … Wie auch immer, ich sollte es wahrscheinlich nicht sagen, aber man kann gegen CSAM kämpfen. Ich sage nicht, dass es dasselbe ist. Es ist zwar nicht so effektiv, wie alles zu scannen, aber auch im Zeitalter der KI-Bildgenerierung weiß niemand, was echt ist oder nicht. Nicht, dass KI-generiertes CSAM gut wäre, aber der Punkt ist, dass man nicht weiß, ob es ein echtes Opfer gibt, oder so weiter? Daher denke ich, dass es Alternativen zum Scannen jedes Bildes gibt, die man tun kann, um CSAM zu bekämpfen. Und wir machen das schon seit Jahren, und es ist schwer zu sagen, wie effektiv wir dabei waren, weil wir nicht wirklich wissen, was der Nenner ist. Ich denke, zumindest was die Netzwerke betrifft, die wir identifiziert haben, waren wir so: Wir haben etwas identifiziert, wir haben sie abgeschaltet und wir haben das Problem entschärft. Wir haben ein starkes Interesse daran, schlechte Akteure aller Art von der Plattform fernzuhalten, denn unser Ziel ist … Die Mission wird nicht erfüllt sein, wenn es heißt: „Oh, das ist eine Plattform für Kriminelle.“ Und das ist im Ergebnis auch nicht der Fall. Ich meine, für die überwiegende Mehrheit der Proton-Benutzer … Wir stecken fast 10 Prozent der gesamten Unternehmensressourcen in die Bekämpfung von Missbrauch. Es ist uns absolut ernst damit, Missbrauch auf der Plattform so gering wie möglich zu halten. Es kann also gemacht werden. Es handelt sich um eine Kostenstelle. Es ist eine Kostenstelle, und zwar eine, die wir essen. Es bringt uns kein Geld ein, aber es ist machbar. Ich denke, die andere Sache ist, und das ist nicht nur CSAM, sondern die Tatsache, dass die digitale Sphäre nicht der einzige Ort ist, an dem diese Verbrechen begangen werden. Es gibt auch die physische Sphäre. Es gibt die tatsächlichen Opfer. Es gibt tatsächlich Menschen, die dadurch geschädigt werden. Ich denke, jeder möchte, dass seine Arbeit einfacher wird. Polizisten sind hiervon nicht ausgenommen. Deshalb würden sie am liebsten alles im Internet scannen, und ich mache ihnen diese Aufforderung eigentlich nicht übel, weil es ihre Arbeit viel einfacher machen würde und sie den Schaden wirklich reduzieren wollen. Allerdings denke ich, dass wir einen Kompromiss zwischen diesem und der Bedrohung finden müssen, die auch für die freie Gesellschaft besteht. Daher denke ich, dass wahrscheinlich auch im physischen Raum noch mehr getan werden kann, um diese Art von Missbrauch mit Ressourcen und so weiter zu bekämpfen. Aber ich sage, und ich wiederhole es: Das Scannen von Inhalten ist nicht die einzige Möglichkeit, dies zu tun. Es gibt auch einige Inhaltsscans, die ohne Verstöße durchgeführt werden können. Es kann clientseitig sein; es können auch andere Dinge sein. Es kann im Geheimen erfolgen. In mancher Hinsicht ist das auch sehr heikel, aber es gibt Dinge, die man tun kann, um die Privatsphäre nicht massiv zu verletzen, was ein Preis ist, den ich für einfach zu hoch halte. Sie sagen, dass es ein System gibt, das Sie nicht genau beschreiben können und das die Schäden von CSAM in großem Umfang effektiv stoppen kann. Ist das bei einigen Leuten, die die Vorschriften durchsetzen wollen, nachprüfbar? Ist es überprüfbar? Sicherheit durch Dunkelheit bringt diese Probleme mit sich, oder? Wir müssen Ihnen vertrauen. Ein großer Teil dieses Gesprächs drehte sich darum, wie sehr wir Proton strukturell und persönlich vertrauen können. Das Problem ist, dass ich den Nenner nicht kenne. Ich weiß nicht, ob wir 50 Prozent davon gefunden haben; Ich weiß nicht, ob wir 10 Prozent davon gefunden haben. Ich weiß nicht, ob wir ein Prozent davon gefunden haben, denn ich weiß nur, was wir gefunden haben. Selbst dann ist es probabilistisch. Wir sehen die Bilder nicht. Manchmal wissen wir es nicht. Manchmal haben wir eine bessere Ahnung, aber ich werde nicht sagen, wie. Aber wir sehen die Bilder auf keinen Fall. Dazu sind wir rechtlich nicht in der Lage, und Gott weiß, dass wir das unseren Mitarbeitern sowieso nicht antun wollen.  Aber nein, wir kennen den Nenner nicht, also weiß ich nicht, wie effektiv es ist. Ich weiß, dass wir dies bis zu einem gewissen Grad mit der Art der rechtlichen Anfragen in Verbindung bringen können, die wir erhalten, und dass diese recht selten sind.  Ich denke, wenn dies ein massives Problem auf der Plattform wäre, würden wir viel mehr rechtliche Anfragen nach Metadaten zu diesem und ähnlichen Dingen erhalten. Und das ist unser Proxy, nicht speziell für CSAM, weil wir oft nicht wissen, woher die Anfragen kommen, sondern im Allgemeinen lautet einer unserer Proxys: „Okay, wie viele rechtliche Anfragen bekommen wir nach Daten?“ Im Gegensatz dazu, wie gut wir in der Missbrauchsbekämpfung sind. Wenn rechtliche Anfragen durch die Decke gehen, was nicht der Fall ist, dann haben wir offensichtlich ein großes Problem mit der Missbrauchsbekämpfung, und das war nicht der Fall.  Ich weiß also, dass das eine verwaschene Antwort ist, aber das ist das Problem. Die Daten sind privat. Wir können es nicht lesen. Das ist unser ganzes Ding. Selbstverständlich verfügen wir auch über ein Meldesystem. Menschen machen Fehler wie jeder andere auch. Wenn sie also ein Bild teilen, das gemeldet werden kann, kann das passieren. Es gibt also viele Mechanismen. Auch hier gehe ich auf Zehenspitzen herum und sage irgendwelche Details, weil ich nicht möchte, dass dieses Zeug unwirksam wird. Aber gemessen an den externen Indikatoren, die wir sehen können, leisten wir gute Arbeit, denke ich. Ich gebe Ihnen ein Beispiel, bei dem es sich nicht um CSAM handelt, aber es ist eine ähnliche Sache, okay? Früher bekamen wir relativ gesehen viele Anfragen, viele Anfragen nach Ransomware-Konten, weil die Leute zu Proton gingen. Erhalten Sie eine Proton-E-Mail, die sie, ich weiß nicht, mit etwas Bitcoin verknüpfen würden, oder? Was auch immer. Wir würden dies in den rechtlichen Anfragen erhalten. Wir könnten uns das ansehen und sagen: „Oh, das ist aus verschiedenen Gründen definitiv ein Ransomware-Konto.“ ” Wir sind wirklich sehr gut darin geworden, Ransomware-Konten zu töten. Nun erhalten wir immer noch gelegentlich [Anfragen zu] ihnen, aber sie wurden von uns sechs Monate vor Erhalt der rechtlichen Anfrage wegen Missbrauchs deaktiviert. Ich verwende Ransomware als Vergleich, aber wir haben eine Feedbackschleife, um zu wissen, wie gut wir sind. Es gibt also etwas in Ihrem System, es gibt eine Reihe von Indikatoren, die Sie erkennen können, und Sie werden mir einfach nicht sagen, um welche es sich handelt. Aber es gibt einige Indikatoren dafür, wie ein Konto in Ihrem System funktioniert, die Ihnen Aufschluss darüber geben, wofür es verwendet wird? Ja. Hat Sie jemals eine Regierung gefragt, was das für Indikatoren sind? Nein. Interessant. Hoffentlich passiert das heute nicht. Cops, wenn Sie zuhören, vergessen Sie, dass Sie etwas davon gehört haben. Uns läuft hier die Zeit davon. Zum Schluss möchte ich noch kurz nach der KI fragen. Weil wir über Systeme und Dynamiken gesprochen haben, die mir ziemlich bekannt vorkommen. Ich bin auf Usenet und Slashdot gestoßen und habe dieses Zitat über Freiheit und Sicherheit wahrscheinlich 10.000 Mal gehört. Das ist die Grundlage meines Lebens im Internet. [Lacht] Klar. Diese Debatte, ich weiß nicht, von den 80er und 90er Jahren bis heute, ist dieselbe. Und vielleicht wird die KI den gesamten Apfelwagen umdrehen. Wir können Cybersicherheit jetzt in großem Maßstab gewährleisten, indem Regierungen eingreifen und die Auslieferung der Modelle verhindern. Ob das stimmt oder nicht, das ist es, was tatsächlich auf der Welt passiert. Wir können riesige Mengen synthetischer Daten generieren, die alle Ihre Erkennungssysteme auslösen könnten, unabhängig davon, ob diesen Daten tatsächlich Schäden nachgelagert sind oder nicht. Sie haben einen KI-Assistenten ausgeliefert, weil eine Reihe von Ländern sich nicht auf amerikanische Vorzeigeunternehmen verlassen wollen und ihnen die Datensouveränität in Europa wichtig ist. Das scheint eine Marktchance für Sie zu sein. Wie gehen Sie das alles an? Sind Sie auf das KI-Modell angewiesen? Sind Sie auf Grenzunternehmen angewiesen? Bauen Sie Ihr eigenes Modell? Wie schützen Sie Ihre Daten davor? Am Ende fühlt es sich an, als würde all dies die Strukturen und Systeme, die wir bisher beschrieben haben, in erheblichem Maße durcheinanderbringen. Ich glaube, ich bin nicht ganz so besorgt. Ich glaube nicht, dass es einen so großen Einfluss auf die Themen hatte, die wir besprochen haben, vielleicht. Wir haben Lumo, unser eigenes internes, das betrieben wird. Wir kontrollieren die Systeme, auf denen es läuft, und wir wollen unabhängig von Drittanbietermodellen und dergleichen sein. Ist das tatsächlich ein Modell, das Sie trainiert haben, oder ist das zuverlässig? Nein, es sind Open-Source-Modelle, die wir zusammengestellt haben. Und es ist eine Sammlung von Open-Source-Modellen, die wir basierend auf ihren Stärken und Schwächen zusammengestellt haben. Aber ja, wir haben keine Milliarde Dollar, die wir für die Ausbildung unserer eigenen Modelle ausgeben könnten. Das ist tatsächlich der Grund, warum wir möglicherweise eines der wenigen KI-Unternehmen sind, die mit KI tatsächlich Geld verdienen, weil wir keine Schulungen durchführen, oder? Wir verkaufen die Schlussfolgerung. Nicht, dass der Bau von Lumo nicht mit viel Arbeit verbunden wäre, aber ja, wir trainieren nicht unsere eigenen Modelle. Ich denke, es gibt zwei verschiedene Seiten. Da ist die Frage: „Wie wird sich KI auf die Branche im Allgemeinen auswirken?“ und vielleicht „wie es sich auf uns ausgewirkt hat und wie wir es nutzen.“ Viele unserer Inhalte, insbesondere die clientseitigen Inhalte, sind also Open Source. Bei den clientseitigen Dingen handelt es sich ebenfalls nicht um Benutzergeheimnisse. Deshalb haben wir Modelle von Anthropic und ChatGPT ausprobiert. Wir haben Lumo auch mit OpenAI ausprobiert, weil letztendlich vieles davon ohnehin öffentlich ist und keine Benutzergeheimnisse sind, also werden wir das beste Tool verwenden, um so schnell wie möglich loszulegen.  Es hat die Softwareentwicklung wahrscheinlich nachhaltig verändert, was den Zeitaufwand betrifft, der für das eigentliche Schreiben von Code im Vergleich zu anderen Dingen aufgewendet wird. Aber vielleicht nicht so grundlegend. Ich meine, die Leute reden über diese SaaSpocalypse-Sache, dass jedes Unternehmen seine eigene Unternehmenssoftware schreiben wird. Ich persönlich kaufe es einfach nicht. Es besteht ein sehr großer Unterschied zwischen der Fähigkeit, eine eigene, individuelle Bestellsoftware, ERP oder was auch immer für Ihr kleines Unternehmen funktioniert, zu entwickeln, und dann den Dingen, die – sei es Compliance, ob Skalierung, ob Zuverlässigkeit, all diese Dinge, die Unternehmen brauchen, die Sie nicht tun werden … Ich meine, ich kann mir einfach nicht vorstellen, dass jedes Unternehmen [sein eigenes] aufbaut. „Oh, Software ist tot. Wir werden keine Anbieter haben, die uns Dinge versprechen können, die wir brauchen.“ Ich weiß nicht, ob ich Ihre Frage hier beantworte, aber die andere Sache daran ist, dass sich für mich, wenn überhaupt, das, was im Software-Engineering geschätzt wird, vielleicht hin zu Fähigkeiten auf höherem Niveau verlagert hat. Aber es hat sich nicht grundlegend geändert, was gute Software ist oder wie man gute Software entwickelt. Wenn überhaupt, Dinge wie das Überprüfen des Codes anderer Leute ... Nun, heute überprüfen Sie den Code anderer Leute und Sie überprüfen den Code des Roboters, aber es ist im Grunde die gleiche Fähigkeit. Vielleicht war die Balance vorher etwas eher in Richtung „Okay, kann man mit so etwas sehr schnell und genau Code schreiben?“ Wo jetzt heißt: „Okay, es geht eher darum, ob Sie den Code sehr schnell überprüfen können?“ Das ist vielleicht eine Fertigkeit auf höherem Niveau. Aber es gehört immer noch zum Werkzeugkasten eines Softwareentwicklers: gute Software zu entwerfen, was gute Software bedeutet, wie gute Software aussieht. Wir haben meiner Meinung nach herausgefunden, dass LLMs viel besser funktionieren, wenn der Code gut strukturiert ist. Wenn Ihr Code gut gestaltet ist, funktioniert das LLM tatsächlich besser. Wenn Ihr Code ein Spaghetti-Durcheinander ist, funktioniert das LLM nicht so gut, da es sich um Logik-Engines handelt. Es besteht eine größere Wahrscheinlichkeit, dass sie verwirrt werden. Viele Grundlagen der Softwareentwicklung – ja, die Branche hat sich verändert –, aber viele Grundlagen der Softwareentwicklung sind anders.  Außerdem haben wir festgestellt, dass die Zeit, die Sie mit dem Schreiben von Code verbringen, gesunken ist. Nun gibt es noch weitere Engpässe in Ihrer Pipeline, die Sie beheben müssen. Vielleicht dauert Ihre [kontinuierliche Integration] zu lange. Vielleicht brauchen deine anderen Dinge zu lange. Es mag also ändern, welche Art von Dingen optimiert werden müssen, aber letzten Endes denke ich, dass für die meisten leitenden Softwareentwickler die Zeit, die sie tatsächlich mit dem Schreiben von Code verbrachten, ehrlich gesagt nicht der schwierigste Teil ihrer Arbeit war oder womit sie die meiste Zeit verbrachten. Ich denke, dass Software wahrscheinlich die am stärksten betroffene und für LLMs am besten zu handhabende Branche ist, die ich je gesehen habe, zumindest bisher. Natürlich gibt es noch andere Verwendungsmöglichkeiten, aber es handelt sich um Software; es ist regelbasiert. Sie können die Richtigkeit testen. Sie können viele Dinge abmildern, die dazu führen könnten, dass LLMs aus dem Ruder laufen und Halluzinationen hervorrufen. Am Ende des Tages brauchen Sie funktionierenden Code, oder? So können Sie solche Dinge testen.  Mit LLMs können Sie viele Probleme entschärfen. Software ist Ihr Best-Case-Szenario. Und selbst dann ist es nach allem, was ich gesehen habe, eine Entwicklung. Es ist keine Revolution. Es ist definitiv eine große Veränderung, aber es ist größtenteils eine Produktivitätsänderung, nicht „alles wegwerfen und von vorne anfangen“. Vielleicht irre ich mich da. Und wenn sich die Modelle verbessern, wird es vielleicht immer dramatischer. Aber im Moment ist es eine verdammt große Chance für die Produktivität. Ich denke – und Software ist das, was ich am besten kenne –, dass die Befürchtungen etwas übertrieben sind. Lassen Sie mich Sie auf der anderen Seite fragen. Sie haben vorhin erwähnt, dass es jetzt möglich ist, alle E-Mails einzusehen und eine Massenüberwachung durchzuführen. Anthropic wandte sich an die Regierung der Vereinigten Staaten und sagte: „Sie können das mit unserem Modell machen. Wir wollen nicht, dass Sie das tun, weil wir denken, dass es eigentlich nicht gut genug ist, und wir glauben, dass es echte Probleme dabei gibt.“  Damit stehst du auch vor dem Problem, oder? Sie haben Ihr eigenes internes KI-Modell. Ihre Benutzer generieren mit KI wahrscheinlich mehr Daten in Ihren Systemen als je zuvor. Es scheint einfach eine Sache zu sein, die passiert, wenn man einem System KI hinzufügt. Die Modelle werden besser, wenn man ihnen mehr Daten zuführt. Sie haben einen unersättlichen Appetit auf Daten. Das ist ein großer Druck auf „wir werden alles privat halten.“ Es besteht ein großer Druck darauf, wer Ihre Sachen sehen darf, warum sie sie sehen dürfen und was sie tun können, wenn sie sie erst einmal haben. Und der Wert, es zu haben, scheint zu steigen. Der Wert der Sammlung aller Daten scheint zu steigen. Ja. Wie reagieren Sie darauf, auch wenn Sie KI-Systeme einführen müssen, um mit den großen Technologieunternehmen zu konkurrieren, die sie buchstäblich überall einsetzen? Ich denke, es kommt auf das an, was ich zuvor erwähnt habe: Privatsphäre ist Kontrolle. Datenschutz ist Selbstbestimmung in dem Sinne, dass Sie die Kontrolle über Ihre Daten haben und kontrollieren, mit wem sie geteilt werden. Und vielleicht ist dieses „Wer“ ein KI-System, und das ist in Ordnung.  Ich denke, solange dies eine Opt-in-Sache des Benutzers ist … Dies ist eigentlich eine interne Debatte, aber wir haben bereits Funktionen. Okay, wir haben zum Beispiel eine Mailinglisten-Funktion. Okay? Ich verspreche, das hat etwas mit KI zu tun, mit Lernen. [Lacht] Es ist ein großer Bau; Auf geht's. Aber wir haben eine Mailinglisten-Funktion, und diese Funktion ist privat. Ich schicke Ihnen eine E-Mail oder schicke der Mailingliste eine E-Mail, und sie sendet die E-Mail an alle anderen. Das System sieht es nicht. Wenn Sie jedoch Personen außerhalb von Proton auf Ihrer Mailingliste haben möchten, können wir keine Ende-zu-Ende-Verschlüsselung mehr durchführen. Wir müssen es ausschalten.  Wenn Sie also externe Personen zu Ihrer Mailingliste hinzufügen, werden Sie gefragt: „Hey, wenn Sie externe Empfänger aktivieren möchten, müssen Sie die Ende-zu-Ende-Verschlüsselung deaktivieren.“ Der Benutzer sagt ja, weil das Teil seines Workflows ist. Sie brauchen es. Zu diesem Zeitpunkt speichern wir immer noch keine Kopie. Alles, was auf Proton gespeichert ist, wird im Ruhezustand verschlüsselt. Wir haben jedoch eine E-Mail im Klartext, die durch unser System läuft, weil wir sie an die externen Empfänger senden müssen, oder? Das ist die Art von Modell, die ich bei einigen davon für die Zukunft sehe. Es sind nicht nur KI-Systeme; Es sind auch Integrationen, bei denen ich – und insbesondere da wir uns mehr mit Geschäftskunden und so beschäftigen – diese Integration in mein CRM brauche, oder? Ich werde mich dafür entscheiden, dieses Postfach mit meinem CRM zu teilen. Das ist in Ordnung. Das kann eine Entscheidung sein, und es ist unsere Aufgabe, eine Benutzeroberfläche zu entwickeln, die die Konsequenzen dieser Entscheidung kommuniziert. Aber Privatsphäre ist grundsätzlich … Es geht nicht darum, Dinge nicht zu teilen. Es geht nicht darum, Ihre Fotos nicht zu teilen; Es geht nicht darum, Ihre Daten nicht an Dritte weiterzugeben. Es geht darum, die Daten mit von Ihnen ausgewählten Dritten zu teilen, und nicht einfach nur mit jedem. Das war sozusagen das große Tech-Paradigma für Web 2.0 oder wie auch immer Sie es nennen wollen, in den letzten zwei Jahrzehnten. Ich denke, wir können das mit der Proton-Sache in Einklang bringen, denn es ging nie nur um die Verschlüsselung. Die Verschlüsselung ist ein Werkzeug zum Zweck. Es geht darum, hey, die Tatsache, dass ich Daten auf dem Computer einer anderen Person im Internet gespeichert habe, bedeutet nicht, dass ich ihnen die Kontrolle gebe, damit zu tun, was sie wollen, oder dass ich ihnen vertraue, dass sie sie nicht verlieren. Wir werden also versuchen, ein System aufzubauen, bei dem ich die Kontrolle behalte und dennoch an modernen Online-Diensten teilnehmen kann, oder? Ich habe das Gefühl, dass wir Sie bald wieder bei uns haben müssen, um zu sehen, wie das alles auf die Probe gestellt wird. Das ist neu. Ja. Ich habe das Gefühl, dass wir in den nächsten Jahren mehr herausfinden werden, also sind wir bald wieder bei Ihnen. Sie haben uns so viel zusätzliche Zeit gegeben. Bart, vielen Dank, dass du bei Decoder bist. Danke schön. Vielen Dank; es war eine tolle Zeit. Ich schätze es. Fragen oder Kommentare? Kontaktieren Sie uns unter [email protected]. Wir lesen wirklich jede E-Mail!