“Ninguna empresa irá a la cárcel por usted”: el CTO de Proton sobre el equilibrio entre privacidad, políticas y confianza

Hoy en Decoder tenemos la primera de una serie de dos partes sobre los sistemas que funcionan en el mundo: estoy hablando con Bart Butler, director de tecnología de Proton, la empresa que fabrica software de productividad privado y seguro. Probablemente lo conozca mejor con Proton Mail, que está cifrado de forma predeterminada, pero la compañía también tiene documentos, hojas, un calendario e incluso un nuevo asistente de inteligencia artificial llamado Lumo, todos creados y comercializados en torno a la idea de que deberían ser mucho más privados que los productos de las grandes empresas tecnológicas. Escucharás a Bart decir claramente que lo que vende Proton, a un alto nivel, no son realmente los productos en sí, sino confianza. Y la confianza en el mundo del software no se trata sólo de las personas que dirigen las empresas, sino también de la tecnología que desarrollan y venden y de la estructura corporativa establecida para garantizar que la tecnología se desarrolle con los incentivos adecuados. En otras palabras, cebo Pure Decoder. El desafío es que Bart también dice que parte de la misión de Proton es en gran medida lograr ser un competidor viable para las grandes tecnologías, y eso significa que la empresa tiene que crecer y expandirse a una escala competitiva, preservando al mismo tiempo sus valores fundamentales. Esta filosofía y ese desafío están integrados directamente en la estructura de Proton e incluso en su ubicación física: la empresa y sus servidores tienen su sede en Suiza, en parte debido a la neutralidad geopolítica del gobierno suizo. Hace dos años, Proton también hizo la transición a una estructura sin fines de lucro gobernada por una fundación, que es un modelo familiar utilizado por todo tipo de empresas que aparentemente operan en interés público, pero que tiene sus propios modos de falla, como acabamos de ver con OpenAI. Suscriptores de Verge, no olviden que obtienen acceso exclusivo a Decoder sin publicidad dondequiera que obtengan sus podcasts. Dirígete aquí. ¿No eres suscriptor? Puedes registrarte aquí. Hablamos de todo eso, pero realmente quería hablar con Bart porque él es responsable de la construcción técnica de algunos sistemas muy complejos que interactúan con todas estas políticas complejas. Realmente quería saber cómo se traducen todos estos elevados ideales y conceptos, como la confianza del usuario, en productos y características reales, centrados en la privacidad, que puedan soportar toda esta presión política.  Por ejemplo, a principios de este año, el gobierno suizo solicitó datos de pago que llevaron al FBI a desenmascarar a un manifestante asociado con el movimiento Stop Cop City en Atlanta, Georgia, solicitud que Proton cumplió. Entonces, por supuesto, tuve que preguntarle a Bart sobre todo eso, y qué significa que el gobierno de EE. UU. pueda usar palabras como "terrorismo" para obligar a gobiernos extranjeros a ejercer presión sobre Proton, y cómo la compañía decide cuándo y cómo afrontar esas luchas.  Esta presión se manifiesta de muchas maneras. Proton ha dejado constancia de que abandonará Suiza, y Bart dice que también consideraría abandonar sus operaciones en países de la UE como Alemania y Noruega si varias leyes de vigilancia que se abren camino en los tribunales europeos continúan amenazando la misión de privacidad de Proton. Bart me dijo que estas no son sólo amenazas vacías y que Proton está en el proceso de descubrir qué significaría abandonar Europa si las cosas se vuelven, en sus palabras, más "distópicas". Hay mucho en este. Corrimos bastante tiempo porque nos adentramos mucho en la maleza. Primero dedicamos el tiempo a hablar de los marcos generales antes de hablar de los problemas muy reales de la seguridad infantil, la verificación de la edad y la inteligencia artificial, todos los cuales están poniendo a prueba los valores de Proton con algunos de los problemas de mayor riesgo en Internet hoy en día. Pero nos tomamos más tiempo para llegar allí y espero que piensen que valió la pena.   Bien: Bart Butler, el CTO de Proton. Aquí vamos. Esta entrevista ha sido ligeramente editada para mayor extensión y claridad. Bart Butler, eres el director de tecnología de Proton. Bienvenido a Decodificador. Gracias. Feliz de estar aquí. Estoy emocionado de hablar contigo. Parece que Proton se encuentra en el centro de un debate creciente y vertiginoso sobre cómo construimos sistemas tecnológicos, cómo los regulamos y cómo los consumidores pueden proteger sus datos o tener algún control sobre sus datos en el centro de ellos. Empecemos por el principio. Creo que la mayoría de la gente entiende Proton como ProtonMail, pero ahora existe un conjunto de productos de oficina y de productividad. Describe qué es Proton y cómo ves que todos los productos funcionan juntos. Entonces, Proton es un ecosistema, por así decirlo: una colección de productos que comparten el mismo ADN en el sentido de que fundamentalmente son, en muchos casos, versiones de productos que puedes comprar en otros lugares, pero que preservan la privacidad, ¿verdad?  Sí, comenzamos con el correo. También tenemos una VPN. Tenemos un Proton Drive, que es nuestro almacenamiento de archivos, fotografías y documentos colaborativos en tiempo real. Tenemos un calendario. Disponemos de un gestor de contraseñas llamado Proton Pass. Tenemos Meet, que es un software de videoconferencia. Así que tenemos toda una colección de productos que hacen cosas, en algunos casos, muy similares a otros productos con los que quizás estés más familiarizado, pero que también preservan la privacidad. Una de las razones por las que estoy emocionado de hablar con usted específicamente como director de tecnología es la idea de que hay un conjunto de productos que son familiares, pero la empresa que los administra se comportará mejor que la otra, es un patrón familiar en esta industria. Claro que lo es. Y Proton promete que los productos en realidad tienen una arquitectura diferente. Sí. Que desde el principio, la forma en que se construyen los productos es en realidad lo que hace y mantiene la promesa de proteger la privacidad, no un CEO o una junta directiva benévolos. Llegaremos a eso. Hay algo de eso en la mezcla aquí. También hay algo de eso. Hay algunas cuestiones de estructura corporativa, pero sí, también considero que en realidad hay, diría yo, dos estructuras principales... o tal vez sistemas. Podríamos llamarlos ingeniería de sistemas en una escala más amplia, pero limitaciones estructurales sobre cómo opera Proton. La primera es que ciframos todos los datos que podamos. Entonces, si quisiéramos dar la vuelta y vender esos datos a alguien, no podemos. Matemáticamente no nos es posible hacerlo, ¿verdad? Esto también tiene otros beneficios. No podemos perderlos fácilmente ante piratas informáticos u otras partes interesadas, y hay algunos datos a los que podemos responder, por ejemplo, solicitudes legales, pero hay otros datos a los que no podemos. Y esto nos ayuda; Básicamente, no podemos ceder datos a los que no tenemos acceso. El segundo es el modelo de negocio. Quiero decir, hay otros reproductores de SaaS, por supuesto, que hacen esto. No creo que haya muchos jugadores de SaaS B2C de nuestro tamaño basados ​​en el consumidor que hagan esto, pero nuestros usuarios pagan nuestro modelo de ingresos, ¿verdad? Entonces no vendemos anuncios. Los productos no son zanahorias para que la gente venga y nos dé sus datos para que podamos venderlos a los anunciantes. Y eso significa que esos usuarios (los que pagan nuestras facturas, pagan nuestros salarios) nos permiten hacer crecer el negocio. Si los traicionáramos, eso esencialmente socavaría el valor del negocio. Hemos vinculado el valor del negocio y el crecimiento del negocio a proteger a nuestros usuarios para que nuestros intereses estén alineados. Esto también es muy importante porque las tentaciones existen. La gente responde a los incentivos y hemos organizado estructuralmente nuestra empresa de manera que esos incentivos estén alineados con las personas a quienes hemos prometido proteger. Si tuviera que resumir de manera muy reductiva lo que acaba de decir, es que tomamos dinero de los consumidores y lo que les vendemos son versiones cifradas de servicios populares en los que confían, como el correo electrónico, una VPN y una suite ofimática. ¿Cree que los consumidores entienden que lo que están comprando es la solución tecnológica o están comprando la promesa de privacidad? ¿O es alguna mezcla? Porque en realidad no estoy seguro de que los consumidores comprendan realmente a gran escala cómo funciona todo, ¿verdad? Creen que sus iPhones los están escuchando. Lo que le diré a la gente de producto y a los ingenieros en las reuniones sobre las nuevas funciones es que si le mencionó la palabra cifrado al usuario, ya falló. Quiero decir, la gente no entiende qué es esto. Está bien. Nuestro objetivo es fabricar productos que sean tan utilizables y funcionales como los de nuestros competidores, o más funcionales. Quiero decir, no quiero sonar completamente derivado. Tenemos características que nadie más tiene y que a menudo están orientadas a la privacidad y la funcionalidad para personas que necesitan comunicaciones confidenciales. Sin embargo, en general, estamos vendiendo la promesa. Estamos vendiendo la promesa de que somos un tipo diferente de empresa. Estamos vendiendo la confianza, y esa confianza es fundamental. Sin confianza… Ahí es donde está el valor real de la empresa. Ahora bien, esa confianza está respaldada por la tecnología, ¿verdad? Pero estamos vendiendo el fideicomiso. La razón por la que estoy insistiendo en esto, y específicamente me alegra que hayas mencionado la confianza, es que todos los grandes actores tecnológicos harán el mismo tipo de promesas sobre la privacidad de tus datos. Facebook estará feliz de decirte que no venden ni un gramo de tus datos. En realidad, no les conviene vender los datos porque la orientación de los anuncios que hacen depende de que los datos sean suyos y de nadie más. Podemos profundizar en esto durante días y días y días. Solo tengo curiosidad por saber dónde ve que se expresa esa confianza o dónde siente que esa confianza se comunica más desde Proton. Porque si me preguntas, como persona más técnica, miro la arquitectura de "todo está encriptado" y probablemente matemáticamente sea imposible entrar en ella. Claro, llegaremos a la cantidad de metadatos que se pueden compartir con las autoridades porque hay cierto debate al respecto. Pero esa es la pieza que me resuena en lugar de confiar en usted o en una junta directiva. Algunas otras personas simplemente miran las promesas y las toman al pie de la letra. Luego hay un conjunto de reguladores que dicen: "En realidad, tenemos muchos otros intereses en poder ver los datos que ocurren aquí, y en realidad no confiamos en que usted sea un buen jugador en el ecosistema". Entonces, cuando piensas en la confianza, ¿se reduce a "los datos están cifrados, y esa es la promesa principal que hacemos, y cualquier cosa que se rompa también arruina todo el producto"? ¿O hay alguna otra dimensión de confianza que sea importante en Proton a medida que se construyen los sistemas? Por tanto, el cifrado de extremo a extremo es obviamente importante. Es el estándar de oro y es por lo que nos esforzamos. Sin embargo, definitivamente hay características que nosotros... la privacidad, al menos para mí personalmente, tiene que ver con el control. Hay ocasiones en las que quiero una integración con un servicio externo o algo así, y quiero decir, mis opciones son no realizar ninguna integración o romper el cifrado de extremo a extremo. Nuestro objetivo es lograr que el usuario tenga una elección informada y control sobre quién ve sus datos. Entonces, no es lo mismo que nunca compartir tus datos o nunca compartir tus fotos con nadie. Pero el punto es que, en lugar de compartir tus fotos con alguien como Facebook que podría monetizarlas, comparte tus fotos con la abuela y el abuelo, y solo con la abuela y el abuelo. Eso no quiere decir que el cifrado lo sea todo, pero creo que hemos establecido... No sé si queremos entrar en la estructura corporativa en este momento. Pero hemos establecido la ingeniería fundamental que respalda la confianza. La gente como usted mira la arquitectura y dice: "Está bien, esto está cifrado. Esto es importante para mí". Y luego vas a contárselo a otra persona y a esa otra persona le dices: "Confío en Proton por esto, esto y esto". La otra persona, todo lo que sabe es: "Oye, conozco a Nilay, confío en él y dice que Proton es bueno". Hay toda una cohorte mucho, mucho mayor que la cohorte de técnicos. La cohorte de técnicos es nuestro núcleo, por supuesto, y lo ha sido desde el principio, pero hay toda una cohorte de personas que confían en Proton debido a otras personas que conocen. Y a estas alturas, quiero decir que podrían ser personas en las que confían en Reddit, ¿verdad? Pero otras personas que conocen dicen que Proton está ahí. Y lo que estoy tratando de decir es que hemos establecido... Todos hemos estado recibiendo lecciones objetivas sobre las reglas, estatutos, leyes, otras cosas que pueden valer algo, pero que en última instancia valen algo cuando son... El personal realmente importa, ¿verdad? Quién las hace cumplir realmente importa. Entonces tenemos la capa técnica, que está diseñada para limitar lo que podemos hacer técnicamente, y luego también tenemos la capa de estructura legal y corporativa, que es su defensa en profundidad, básicamente. Es defensa en profundidad. Todas estas cosas son garantías entrelazadas para nuestros usuarios de que somos dignos de confianza. En definitiva, eso es lo más importante del negocio. Quiero llegar a la estructura corporativa. Después de todo, es Decoder, pero solo un giro más en el conjunto del producto. Empezaste con ProtonMail. Tienes el otro conjunto de productos, que ahora incluye un asistente de IA. Usted habló del hecho de que el modelo de negocio consiste en que los consumidores paguen dinero directamente por los productos. ¿ProtonMail sigue siendo el producto principal que genera más dinero? ¿Están creciendo las otras líneas de negocio? ¿Cómo se ve esto? Por eso no revelamos datos financieros directos. El correo y la VPN son los dos productos más antiguos y, como era de esperar, siguen siendo los dos productos más importantes. Pero también tenemos mucha gente que compra paquetes y compra varios productos. Intentamos que los productos funcionen bien juntos en un ecosistema. Algunos productos están más estrechamente unidos que otros. Los nuevos productos, los más recientes como Calendar, están muy ligados al Mail, por supuesto, pero también tenemos Drive y Pass. No son tan grandes como los productos más antiguos. Tienen menos ventaja inicial, por así decirlo, pero están creciendo rápidamente. Todos contribuyen, pero sí, contribuyen de manera diferente. Muchas veces no voy a decir exactamente la edad que tienen, pero las que han tenido la pista más grande suelen ser más grandes, ¿verdad? Uno de los patrones del software de productividad para el consumidor es que las suites se hacen más grandes, los paquetes se hacen más grandes y luego las empresas se dan cuenta de que la clase de clientes que realmente pagará por una mayor productividad es la empresa. Sí. Vemos esto una y otra vez en este espacio. Notion lo hizo, Dropbox lo hizo. Puedo seguir y seguir sobre las empresas que hemos cubierto como empresas de software de consumo que eventualmente pasaron a ser empresas empresariales. ¿Proton siente la misma presión de que tendrá que tener más clientes corporativos, clientes empresariales, para crecer? ¿O todavía estás centrado en el consumidor? Ésta es una pregunta muy, muy interesante. Creo que definitivamente sentimos la presión. Hay… ¿qué es? No sé si es apócrifo o no, pero la vieja cita de John Dillinger dice: "¿Por qué robo bancos? Bueno, es donde está el dinero". Hay un poco de eso en "¿Por qué te vuelves B2B?" Bueno, es donde está la gente que tiene presupuesto y está dispuesta a pagar por esto.  Creo que definitivamente lo estamos considerando. Incluso siendo una empresa principalmente centrada en el consumidor, tenemos mucha gente en las pequeñas empresas, en particular, que utilizan nuestros productos con fines comerciales. Simplemente usas al consumidor. Y también hemos incursionado en ofertas para pequeñas empresas y cosas así.  Creo que esto es algo que probablemente exigirá el crecimiento. Y creo que hay muchas empresas para quienes las cosas que ofrecemos (confidencialidad, cuestiones de soberanía europea y fuera de Estados Unidos en particular, y simplemente nuestra reputación) son muy atractivas para esas empresas. Dicho esto, tenemos que lograr un equilibrio. Y hoy, nuestro negocio es B2C. No vamos a deshacernos del negocio B2C. También creo que tener un negocio B2C tan fuerte es una fortaleza competitiva. Quiero decir, como dijiste, hay varios que han hecho la transición de B2C a B2B. Pero al mismo tiempo, creo que hay muchos más jugadores B2B que comienzan en B2B y permanecen ahí. Y una de las cosas que estamos analizando... La comunicación entre las empresas y sus clientes es ciertamente importante, y la confidencialidad es importante en ese sentido. Se ven cosas como las incursiones de WhatsApp para que las empresas se conecten con los consumidores que tienen WhatsApp. Creo que cuando llegue el momento de dar un impulso real al B2B, la base de usuarios y el conjunto de productos B2C serán un beneficio para nosotros. Una de las tensiones que surgen a medida que la IA se infiltra cada vez en más empresas es que las empresas modelo de vanguardia quieren cada gramo de datos. Creo que muchas grandes empresas desconfían mucho de proporcionar una gran cantidad de datos a empresas modelo de vanguardia. La IA funciona mejor cuando tiene una gran cantidad de datos, por lo que existe una gran elección sobre qué parte de su negocio expondrá a Claude. ¿Cuánto de ti expondrás a Claude para sacar el máximo valor de esos modelos? Proton se encuentra justo en el medio de eso con una arquitectura técnica que, según usted, brindaría opciones, pero también parece que el juego para muchas de estas empresas es simplemente entregar todo y decir: "Ve a administrar mi negocio, IA". ¿Cómo ve el trabajo con sus clientes empresariales hoy en día? Sí. Quiero decir, es una decisión complicada. Está entregando todos sus datos confidenciales. Y sienten que, en muchos casos, no tienen otra opción. En cierto modo, es por eso que desarrollamos Lumo, nuestra oferta de IA, que creo que, lamentablemente, puede haber quedado fuera de la lista antes. Creo que acabamos de lanzar Lumo 2.0, que es una gran renovación de los modelos que utilizamos. Y parte de eso es... El objetivo del proyecto Lumo en general es tener algo que se integre con el resto de nuestros productos y pueda hacerlo de forma segura. Esto es para abordar este tipo de equilibrio entre si les doy a empresas de IA aleatorias (posiblemente en diferentes países, posiblemente con problemas de cumplimiento, todas esas otras cosas) ¿les doy todos mis datos comerciales confidenciales o puedo hacerlo de una manera que esté aún más protegida? Ahora, en muchos sentidos, todavía tenemos que hacer concesiones, pero las mantenemos internamente dentro de Proton con las garantías que ofrecemos. Esa debería ser una opción más atractiva para ese tipo de cargas de trabajo, y eso es lo que esperamos a medida que desarrollamos Lumo. Creo que esto nos lleva a las preguntas de Decoder sobre estructura y organización porque ahí es donde parece que tiene que estar la estructura, donde reside la confianza, no necesariamente la arquitectura técnica. Entonces, ¿cómo está estructurado Proton hoy? ¿Cuántas personas hay? Entonces, Proton hoy tiene aproximadamente 650 personas en total. Eso incluye ingeniería, funciones de soporte, marketing, etc. También incluye atención al cliente, que realizamos internamente. Siempre lo hemos hecho. Somos una corporación llamada Proton AG, una corporación suiza. Sin embargo, una participación mayoritaria en Proton AG pertenece a la Fundación Proton, que se sembró con acciones de Andy, nuestro director ejecutivo y otros primeros empleados. Hay otros compañeros de viaje con estructuras, diría yo, algo similares. Signal y Mozilla, y nuestras razones son las mismas. La participación mayoritaria de la Fundación Proton en la empresa Proton significa que está facultada para proteger la misión. Es una fundación suiza. No soy abogado, pero me han dicho que es muy difícil cambiar. Su trabajo es el de guardián de los valores y la misión de Proton. Entonces, si Proton, la compañía, se desviara de esa misión, la Fundación Proton estaría facultada para corregir el rumbo, si eso tiene sentido. ¿Eso ha sucedido alguna vez? No. Hasta ahora, no. Contamos con nuestro fundador y director ejecutivo, Andy Yen. Andy fundó la empresa y, mientras él esté a cargo, no creo que sea necesario. Pero si lo atropella el autobús, existe una estructura corporativa diseñada para proteger la misión en el futuro y garantizar que la empresa no se desvíe de todos modos. Gracias a este modelo de propiedad, la empresa también está protegida de, digamos, algún tipo de adquisición o compra que también podría redirigir sus prioridades. Creo que ese factor, la tecnología y el modelo de negocio son básicamente protecciones entrelazadas contra la traición del pacto que tenemos con nuestros usuarios. Una de las cosas que me llama la atención cuando hablo con cada vez más empresas que han hecho la transición a este tipo de modelo de fundación es que esa estructura está ahí esencialmente para aislarte de las demandas rapaces del capitalismo. No te presionan a ganar tanto dinero cada trimestre como sea posible para hacer las cosas que te llevarían a ganar la mayor cantidad de dinero, y eso significa que tal vez la tecnología pueda desarrollarse en un estado puro e idealista de protección de la privacidad en lugar de perseguir dólares. ¿Sientes ese aislamiento? Quiero decir, tienes que ganar dinero, pagar a tus empleados y crecer de alguna manera, pero ¿cuál es la dinámica para ti al diseñar los productos? Así que la respuesta corta es no, y la razón es que parte de nuestra misión es competir en el capitalismo. Nuestro principal competidor son las grandes tecnologías. Aunque somos mucho más pequeños que las grandes tecnologías, de donde provienen nuestros usuarios cuando convertimos personas, cuando conseguimos nuevos clientes, ellos [vienen de] las grandes tecnologías en general. Tenemos que jugar el mismo juego. Puede que esto sea un poco cursi, pero nuestro lema corporativo es "Privacidad por defecto". Esa parte "predeterminada" está haciendo mucho trabajo pesado. Mencioné antes que nuestro objetivo es diseñar productos que sean fáciles de usar y seguros. Hay muchas herramientas que son seguras y nadie, salvo unos pocos expertos, las utiliza. Y eso está bien. No estoy criticando la existencia de esas herramientas, pero nuestro objetivo es crear herramientas que todos puedan usar sin entender la criptografía, sin siquiera saber que es la criptografía la que pueden usar, y que sean tan fáciles de usar y tan repletas de funciones como nuestros competidores no cifrados y esencialmente mineros de datos. Es una tarea difícil.  No digo que estemos al 100 por ciento todavía, pero ese es el objetivo. Pero la palabra predeterminada en “privacidad por defecto” significa crecimiento. Significa que tenemos que estar a una escala en la que podamos ofrecer una alternativa real a las grandes tecnologías. Y las pequeñas empresas emergentes, las pequeñas empresas de gran escala, que son 100 o 10 veces más pequeñas que las grandes tecnológicas, no van a ser suficientes. Para lograrlo, necesitamos crecer. Entonces, el crecimiento es en realidad parte de la misión, por así decirlo. Eso significa que tenemos que ser... la palabra no es rapaz, pero tenemos que ser tan hambrientos, eficientes y con mentalidad de crecimiento como sea posible porque eso es parte de la misión de crecer lo suficiente como para desafiar realmente el paradigma actual. Quiero decir, podemos hablar de todo tipo de formas en que el capitalismo está roto en este momento, pero tenemos que seguir el juego. Sí. Está bien. Voy a hacer una comparación que vas a odiar. Sólo te lo hago saber. Sé que lo odiarás. Bueno. Quizás la idea más famosa de “construiremos una base para protegernos de las demandas del mercado y asegurarnos de que todo esté sano” sea de OpenAI, que básicamente eliminó esa estructura para perseguir una IPO, ¿verdad? Quizás todavía tengan ideas realmente importantes e idealistas sobre cómo debería desarrollarse la AGI. Tal vez algunas personas en esa empresa realmente se sientan así y simplemente no funcionó, ¿verdad? Necesitaban perseguir el crecimiento de maneras muy específicas por cualquier motivo que sintieran. Tal vez fue dinero, tal vez fue simplemente asumir la Búsqueda de Google de la manera que OpenAI sentía que quería hacerlo; Tuvieron que cambiar la estructura de la empresa. Obviamente eso sucedió. Es como uno de los momentos fundamentales más apocalípticos que jamás haya sucedido. Esta cosa simplemente explotó o implosionó sobre sí misma. Cuando miras eso y luego dices: "Está bien, tenemos que crecer. Para ser lo predeterminado, tenemos que crecer hasta ser grandes, pero estamos haciendo esta promesa que Google no tiene que hacer, o Microsoft no tiene que hacer", ¿dónde está la tensión en eso? ¿Cómo se expresa eso al diseñar la arquitectura de los productos, lo que podría excluir algunas oportunidades? Lo que también podría ser nuestro lema corporativo (no lo es, pero podría serlo) es ir a lo grande o irse a casa. Ciertamente no nos fijamos metas modestas en ese sentido. Pero creo que hay un par de cosas que lo hacen diferente. Mencioné antes muchas limitaciones, pero una cosa que no mencioné es que no tenemos inversores de capital de riesgo. No tenemos inversores de capital privado. No estamos quemando el dinero de otras personas con capitalistas de riesgo pisándonos el cuello y de los que debemos salir pronto, o de lo contrario nos arruinaremos. Construimos un negocio sustentable. Reinvertimos las ganancias de ese negocio en el negocio. Y esto nos aísla de parte de la presión, que estoy seguro que OpenAI sintió dado que estaban prendiendo fuego a enormes cantidades de dinero todo el tiempo, ¿verdad? Pero dicho esto, el personal es política. Creo que ciertamente siempre existe este riesgo. Al mismo tiempo, recientemente descubrimos mucho que a veces las reglas, normas o directrices no están escritas. No escritos o no, no valen ni el papel en el que están escritos. Pero ahí es también donde entra en juego la arquitectura. Tomamos decisiones sobre cuestiones tecnológicas y, obviamente, estoy en el lado tecnológico de este negocio, pero hemos tomado decisiones, y algunas de ellas se deben a razones comerciales competitivas, ¿verdad? Queremos vender productos en los que digamos: "No podemos acceder a sus datos. No tenemos acceso a los datos. No podemos perderlos. No podemos venderlos. No podemos hacer esto". Pero eso también nos impide decidir algún día dar la vuelta y venderlo porque lo hemos encerrado en una caja y no podemos acceder a él y, por lo tanto, no podemos darnos la vuelta y decir: "¿Saben qué? Lo siento chicos, cambiamos de opinión. En realidad, vamos a extraer todos estos datos y listo". Ahora bien, ¿hay algo perfecto? No. Pero quiero decir, la estructura está diseñada de manera que tengamos estos controles entrelazados, como dije. Creo que la otra cosa es que incluso si, digamos... La Fundación Proton tiene prohibido vender Proton AG, hasta donde yo sé, pero incluso si, por alguna razón, algo sucede, el valor de Proton está en la reputación. Y lo dijimos y ha sido una elección deliberada. El valor de Proton está en la confianza que tenemos. Si Google nos comprara, no tendría ningún valor porque Google no tiene la credibilidad para ejecutar Proton. ¿Ves lo que quiero decir? Esa es la forma predeterminada en que Google compra cualquier cosa. Sólo quiero ser muy claro al respecto. [Risas] No, lo cerraron y luego desapareció, ¿verdad? El reloj empezaría a correr ese día. Sí. Lo sé. Ya pasó antes, volverá a pasar, estoy seguro. Pero la estructura de la Fundación Proton está diseñada para decir que "No, la empresa no se puede vender a un comprador". Esa es la macroestructura. Sólo cuénteme sobre la estructura más táctica dentro de la empresa que está creando un producto. ¿Cómo está estructurado el propio Proton? ¿Existe algún equipo que haga del asistente de Lumo? ¿Existe un equipo que hace correo electrónico? ¿Son divisiones? ¿Es funcional? ¿Cómo funciona eso? Entonces tenemos una estructura de división, una estructura de unidad de negocios. Tenemos ciertos productos que están agrupados, como correo y calendario, por lo que están agrupados en la misma división. Los demás están separados. Entonces tenemos Lumo, tenemos Drive, tenemos Pass y tenemos VPN. Estas son divisiones separadas. Usted toma decisiones sobre la estructura corporativa en función de la comunicación que desea que sea más fácil. Eso está diseñado para permitir que las personas se muevan rápido y tengan autonomía y tomen decisiones dentro de su producto. También tenemos equipos interorganizacionales, equipos de soporte y cosas así. Y por ese lado, la desventaja de la estructura de la unidad de negocios es que a veces tenemos que trabajar más duro. Es un poco como acorralar a los gatos, ¿verdad? Donde debe asegurarse de que: "Está bien, estoy creando esta función que afecta a todos los productos. Necesito asegurarme de que todos los productos estén a bordo y que lo tengan en su planificación para que podamos enviarlos correctamente". Entonces tomas decisiones al respecto. Hemos tomado la decisión deliberada de priorizar la comunicación dentro del producto. Y luego intentamos compensar las deficiencias de esto en nuestra comunicación entre productos. Luego, a medida que hacemos la transición a más y más elementos basados ​​en ecosistemas, podemos tomar diferentes decisiones sobre la estructura corporativa para respaldar eso. Todo el asunto de la ley de Conway. Envías tu organigrama, pero a veces quieres lo mejor de ambos mundos, y aquí es donde llega el proceso. No siempre es atractivo, pero seguro que lo encuentras muy importante a medida que escalas organizaciones. Usted podría ser el primer invitado de Decoder en establecer la conexión directa entre el hecho de que les pregunto a todos cómo está estructurada su empresa y usted envía su organigrama, razón por la cual siempre pregunto, porque es la verdad fundamental. Lo haces, y luchamos con eso hasta cierto punto. Intentamos compensarlo. Pero sí, envías tu organigrama. Y por lo tanto, si desea que sus productos se vean diferentes, debe ajustar su organigrama para respaldar esa diferencia, ¿verdad? Quiero decir, en última instancia. La otra pregunta de Decoder que les hago a todos es sobre decisiones. Tienes muchas decisiones que tomar. Está intentando construir un nuevo tipo de arquitectura de producto con muchas de las mismas limitaciones que sus competidores. ¿Cómo tomas decisiones? ¿Cuál es tu marco? ¿Cómo tomo decisiones? Somos una empresa dirigida por sus fundadores. Andy inició Proton. Yo era, creo, el empleado número seis, quiero decir. Esa es una historia divertida en sí misma. ¿Sabes cómo conocí a Andy? ¿Cómo es eso? Era mi estudiante de posgrado en el CERN. Yo era un postdoctorado en Harvard y él era mi estudiante de posgrado. Y luego viene y me encuentra en Silicon Valley después de que dejé la física y me dice: "Oye, ¿quieres unirte a mi startup? Puedes ser CTO". En fin, y aquí estamos 11 años después.  Pero todavía está muy involucrado. Tiene muchos aportes sobre la estrategia de dirección de productos y es un visionario. Creo que es responsable de gran parte del éxito de Proton. Está dispuesto a correr riesgos y ese tipo de cosas. Obviamente creo en su liderazgo, o de lo contrario no estaría aquí después de 11 años. Dicho esto, creo que una cosa que a veces sucede con los visionarios es que necesitan rodearse de personas que los desafíen cuando tal vez lleguen demasiado lejos con sus esquís, o también asegurarse de que tengamos ideas de otros lugares. Una cosa de la que realmente tratamos de asegurarnos es que las ideas se juzguen por sus méritos, no necesariamente por su origen. Y entonces tenemos un equipo de liderazgo senior cuyo trabajo es, sí, ejecutar pero también aportar nuevas ideas y venderlas y cosas como esta. No voy a decir que seamos perfectos en esto porque nadie lo es y tenemos muchas cosas que podemos mejorar, pero intentamos impulsar la toma de decisiones hacia abajo en la organización. El objetivo de una organización es que tienes una manera de alinear a muchas personas diferentes en la misma dirección. El truco siempre es: ¿cómo lograr la alineación en la misma dirección general y al mismo tiempo tener autonomía para no microgestionar todo? Y no digo que siempre consigamos el equilibrio correcto, pero ese es el objetivo aquí. Cuando hacemos este tipo de orientación cuando contratamos gente nueva en Proton, una de las cosas que siempre decimos es: Quiero escuchar... Aún no estás acostumbrado a nuestra forma de hacer las cosas. Así que quiero que observe nuestra forma de hacer las cosas, y si ha experimentado con otro empleador o cree que esto es una locura o ineficiente, quiero que nos lo diga. Y lo tenemos muy claro: sí, por supuesto que tenemos una jerarquía, y parte de ella es nuestro tamaño, pero muy rara vez tenemos más de, digamos, tres o cuatro niveles de gestión. Siempre decimos: "Mira, si necesitas comunicarte conmigo, debes comunicarte con el director ejecutivo, debes hablar directamente con la gente, simplemente hazlo". Es otra cosa, y repito, hablo por mí mismo, pero creo que esto es común en Proton: le digo a la gente: "No prometo ni estoy obligado a estar de acuerdo contigo, pero nunca te arrepentirás de haberme dicho lo que piensas", básicamente. Así que intentamos hacer eso. Y le doy el crédito a Andy por esto, pero tenemos muy poca política interna. Quizás esto se deba simplemente a que todavía no somos muy grandes, pero tenemos tolerancia cero con los feudos o la política interna, y eso también facilita las cosas. Existe una gran sensación de que todos apuntamos en la misma dirección y que no es mi división la que estoy tratando de hacer crecer, sino Proton en general. Creo que algo de eso viene de ser una empresa impulsada por una misión. No sé si alguna vez habéis tenido esta experiencia, pero para aquellos que no, yo he tenido ambas. Fui físico como parte de la colaboración del CERN hace mucho tiempo, y ahí tienes la naturaleza fundamental del universo. Considero que es una ocupación impulsada por una misión. Después también tuve una temporada en Silicon Valley, donde tuve problemas técnicos divertidos e interesantes, pero me lo perdí. Y con Proton, la misión es realmente... Tenemos que tener cuidado de no ocultar problemas organizacionales que realmente deberíamos resolver, digámoslo de esa manera. Pero realmente hace que el trabajo sea más fácil cuando todos están alineados en ese sentido. Permítanme hacerles una pregunta sobre eso, y luego quiero abordar las presiones que siente Proton y cómo se pone en práctica toda esta estructura para resistir esas presiones. Al principio de mi carrera, no tenía idea de cómo gestionar a nadie. Fui a ver a un grupo de personas y les hice un montón de preguntas. Uno de los mentores más inteligentes en todo esto me sentó y me dijo muy seriamente: "Mira, no contratas gente para agradarles. Contratas gente para cambiar tu organización". Me lo he tomado muy en serio, y tal vez después de 15 años de esto, pienso: "Eso es en realidad un péndulo. Necesitas que la gente acepte lo que estás haciendo. De lo contrario, cada nueva persona que contrates alterará radicalmente lo que todos los demás están haciendo porque tal vez tengan demasiado poder y en realidad no estén en la misma página". Proton tiene una misión, ¿verdad? La estás describiendo como una empresa impulsada por una misión. ¿Cómo lograr ese equilibrio entre querer contratar gente nueva y obtener una perspectiva externa de lo que estás haciendo mal y luego no desviarte por completo del camino? Porque me parece muy importante dentro de una empresa como Proton. Quiero decir, la cultura es extremadamente importante. Es extremadamente importante. Eso también viene desde arriba. Andy, si le preguntaras qué es lo más importante en cualquier negocio, probablemente diría que la cultura. Como resultado, tratamos de tener mucho cuidado con a quién contratamos. Contratamos relativamente lentamente. Ojalá pudiéramos contratar más rápido. Creo que la contratación es una de las cosas en las que podríamos ser mejores, pero no hacemos contrataciones masivas, despidos masivos, cosas como esta porque... Y no contratamos tan rápido que diluyamos la cultura. Queremos integrar a la gente en la cultura Proton, no necesariamente... Y sí, a veces tenemos que cambiarla, a veces tenemos que evolucionarla, pero queremos que eso se haga de manera deliberada. Quizás también tuve una evolución similar como entrenador. He estado allí durante todas las fases de crecimiento de Proton. Desde el principio, escribí mucho código y luego me convertí efectivamente en líder del equipo. Luego fui gerente de gerentes. En algún momento, yo estaba ejecutando toda la ingeniería de Proton. Luego entregué algunas de las cosas de gestión, pero conservé la dirección técnica del CTO. En ese curso, definitivamente también cometí muchos errores, ¿verdad? Al principio, tuve que enseñarme a mí mismo a no agradarle a otras personas, a no microgestionar, tal vez no, pero no simplemente a decirle a la gente qué hacer y hacer que lo ejecuten. Y luego pasé por una fase en la que me di cuenta de que, bueno, la gente necesita aprender, la gente necesita cometer sus propios errores. Quiero importar gente con experiencia; No soy infalible. Hagamos esto. Probablemente eso fue demasiado permisivo. Tuvimos algunos… nada catastrófico, pero cometimos algunos errores costosos sobre los cuales tuve un mal presentimiento, pero los dejé pasar de todos modos. Porque estaba intentando hacer esto.  Eso es lo peor. Así que creo que la moderación no suele ser lo más atractivo que se puede vender, pero lo es. Es un equilibrio. No desea imponer cómo se hacen las cosas, pero también desea asegurarse de estar ahí para evitar que las personas tomen decisiones realmente catastróficas o costosas. Puedes ver la pared de ladrillos a lo lejos y quieres asegurarte de que eso no suceda. Sí, no es la respuesta más dramática, pero mucho de esto es encontrar el equilibrio adecuado: la moderación. La razón por la que dediqué tanto tiempo al aspecto técnico y de la estructura corporativa, así como a la cultura, es que Proton enfrenta mucha presión. Y todo esto, como usted ha descrito, está diseñado para resistir esa presión y para crear productos que esa presión no pueda romper de diferentes maneras. Comencemos con, no lo sé, los gobiernos del mundo, que ejercen mucha presión sobre Proton y han encontrado muchísimas formas de superar los tipos de controles que se implementan para proteger los datos de los usuarios. Así que comenzaremos con el más llamativo. En marzo, un informe de 404Media encontró que Proton entregó los datos de pago de una cuenta llamada Stop Cop City, que se encuentra en Estados Unidos. Entregaron esos datos a las autoridades suizas, quienes luego los entregaron al FBI, y eso llevó a su identificación. Y estos son metadatos; No creo que sean en realidad los datos, el contenido de los correos electrónicos. El argumento de Proton es: "Mire, en realidad nunca le dimos nada al FBI. Simplemente cumplimos con una solicitud legal del gobierno suizo". Comencemos por lo más básico. ¿Qué puede pedirle legalmente el gobierno suizo? ¿Y el hecho de que puedan servir simplemente como representantes del gobierno de Estados Unidos socava parte de esta confianza o ejerce algún tipo novedoso de presión sobre sus estructuras? Entonces, cualquier empresa en cualquier lugar tendrá una jurisdicción y estará sujeta a ella. Ninguna empresa o individuo está por encima de la ley. Y ninguna empresa irá a la cárcel por ti. Dicho esto, se pueden organizar estructuras de manera que existan salvaguardias aquí. Y nuestra garantía, por ejemplo, es que somos una empresa suiza. Y, de hecho, nos han preguntado repetidamente: "Oye, ¿puedes responder a las solicitudes de agencias gubernamentales amigas?" Hemos dicho repetidamente que no porque no puede ser nuestro trabajo decidir qué es legítimo y qué no. Eso no es algo que podamos asumir. Entonces, lo que hacemos es diseñar nuestros productos para que, dentro de limitaciones, sea como crear un producto que la gente quiera usar y pueda usar y que haga el trabajo, pero diseñamos nuestros productos para que sean lo más privados posible.  Estamos sujetos a la jurisdicción suiza. Las solicitudes de Tratados de Asistencia Legal Mutua, solicitudes MLAT, provienen de los gobiernos. Las autoridades suizas deciden qué es legítimo y qué no. No tenemos ningún interés en eso. Y luego dan una orden, nosotros cumplimos esas órdenes, y así tiene que ser. Elegimos muy deliberadamente nuestra jurisdicción de una manera que los suizos son notoriamente neutrales. Todo gobierno está formado por humanos, pero tienen fama de ser personas razonables y ese sistema ha funcionado bastante bien. En general, hay países que son menos confiables que otros, y esas solicitudes... No tenemos mucha visibilidad de dónde provienen las solicitudes, pero aquellas solicitudes que tenemos de buena autoridad generalmente no son atendidas. Si bien hoy en día las opiniones de las personas pueden variar, pide el FBI, se les suele dar una cierta presunción de legitimidad, pero aún así son evaluadas por las autoridades suizas. Y luego lo que hacemos es cumplir. Aquí no tenemos discreción. Y este sería el caso para cualquier cosa, pero hemos organizado el sistema de tal manera que creemos que es uno de los más seguros que se pueden construir y seguir siendo legales. Déjame preguntarte sobre eso, porque eres una persona de sistemas; estás describiendo un sistema. Sí. El punto fallido de ese sistema, como usted me lo describe, es que el gobierno suizo va a tomar un montón de decisiones sobre lo que hay que cumplir. Creo que el gobierno de Estados Unidos, en este caso específicamente, se ha dado cuenta de que si simplemente dicen que todo es terrorismo, se abren las compuertas sobre los mecanismos para compartir datos. Entonces, en este caso, se trata de una cuenta llamada “Stop Cop City”. " Dijeron que esto es terrorismo. Aquí en los Estados Unidos, si las afirmaciones del gobierno de que todo es terrorismo son legítimas o no, creo que está ampliamente abierto al debate. Claro. Pero parece que encontraron lo que usted describiría como un vector de ataque a los mecanismos del gobierno suizo, donde si dice estas palabras mágicas, el gobierno suizo acudirá a usted y comenzará a solicitar metadatos. ¿Te parece apropiado? ¿Se siente como si se pudiera sobrevivir? Creo que muchas de estas cosas, en algún momento, dependerán de la gente. Hemos hecho lo mejor que hemos podido, y no creo... La gente va a tener opiniones diferentes sobre qué solicitudes son legítimas o no, pero hemos hecho lo mejor que hemos podido al decir: "Está bien, las autoridades suizas decidirán y luego cumpliremos con lo que digan porque somos una jurisdicción suiza". Mientras tanto, lo hacemos y podemos organizarlo (y, por supuesto, hay leyes que lo rigen), pero hacemos todo lo posible para minimizar la cantidad de datos que podemos proporcionar. Quiero decir, con los datos de pago, podemos cifrarlos. Utilizamos procesadores de pagos. Pueden obtenerlo de muchas fuentes diferentes. Entonces, si tiene una tarjeta de crédito adjunta y llega una solicitud legal, no hay mucho que podamos hacer, ¿verdad? Mencionaste sistemas... porque creo que esto es importante. Lo que es importante para mí, y me doy cuenta de esto... No quiero que esto suene insensible para un caso hipotético de abuso específico que podría no haber sido... Se pueden cometer errores, por supuesto. Pero quiero un sistema como el que tenemos, que es que si el gobierno tiene algún tipo de causa razonable y puede convencer a la gente en un proceso definido para que proporcione datos, entonces sí, los datos probablemente deberían proporcionarse. Lo que realmente me preocupa es que a menudo vivimos en un mundo donde básicamente el gobierno puede pedir: “Dame todos tus datos y buscaré problemas. Voy a buscar un crimen”. La palabra escuchas telefónicas proviene de una época en la que literalmente tenían que ir a tu casa y pinchar el cable. No creo que realmente se pensara en eso en ese momento, pero eso (el acto físico real de tener que hacer esto) tenía una barrera al hecho de que no se podía vigilar a todos a la vez. Era sencillamente logísticamente imposible. Hoy vivimos en un mundo donde se puede vigilar a todo el mundo, por eso queremos crear servicios y sistemas donde esto sea imposible, ¿verdad? Donde lo predeterminado debería ser privacidad, como dije, privacidad por defecto.  Sí, también respondemos a solicitudes legítimas de las autoridades, independientemente de cómo usted las defina. Y esa pregunta legítima siempre será una cuestión de proceso, en el que nosotros, por supuesto, somos sólo un actor en este proceso. Pero creo que ese es el- Bueno, aquí hay legitimidad y una dinámica de mercado. Por eso, el gobierno suizo ha ejercido mucha presión sobre Proton en los últimos años. Básicamente, quieren que tengas una VPN sin cifrar y que puedas descifrar los datos del usuario que viajaban a través de la VPN. Creo que Proton amenazó con abandonar Suiza por esto, y luego anunció que iba a construir una infraestructura más distribuida y colocar parte de esa infraestructura en Alemania y Noruega. Vamos a llegar a Control de chat. Ayer creo que la UE aprobó una versión de esta ley y la respuesta de Proton fue: “Simplemente saldremos de la UE. Vamos a salir de esta jurisdicción legal”. Quiero hablar de eso en detalle, pero en el tipo de contexto más amplio del que estás hablando ahora, estás eligiendo, ¿verdad? Estás eligiendo una fundación y, a menudo, la respuesta es: "Bueno, si cambias la base legal aquí, nos iremos". Sí. ¿Qué tan real es eso? Es muy serio. Con el debido respeto a las autoridades suizas y a todos los demás, creo que sería absolutamente suicida continuar por este camino. Quiero decir, parte de la marca suiza es la privacidad. Ha sido así durante 80 años, y tienen una buena ventaja, en gran medida a través de Proton, pero también tienen buenos argumentos para llevar esa reputación y esas ventajas económicas -porque hay muchas empresas, mucho comercio, que requieren confidencialidad- al siglo XXI, a la era digital. Y tirarlo a la basura es, creo, miope, por decir lo menos. Pero no, es una amenaza seria. Lo que pasa con los servicios digitales es que se pueden mover. Hay mucha flexibilidad en esto. Quiero decir, supongo que si nos volvemos verdaderamente distópicos, puede haber un mundo en el que no haya un lugar al que mudarse, pero por el momento hay opciones. Ciertamente también es... Es una amenaza. Quiero decir, es una amenaza real. Esperamos no tener que hacerlo. Esperamos que los poderes fácticos respondan a esto y cambien de rumbo, pero sí. Eso es un costo, ¿verdad? Tengo curiosidad sobre esto- Es un costo. Bueno, es un costo. Tendremos que hacerlo, pero tal vez no sea tan costoso como podría pensar. Ya tenemos empleados en diferentes países. Tenemos oficinas satélite y tenemos otras cosas. Disponemos de centros de datos en Alemania. Disponemos de centros de datos en Noruega. No quiero ser demasiado indiferente al respecto, pero podríamos hacer una inversión corporativa a otro lugar y luego decir: "Está bien, todas las solicitudes legales tienen que pasar por aquí". Y todos los datos están en- ¿Cómo se relaciona eso con “no puedes venderlo”? La parte en la que dices: "Es una fundación suiza. Es muy difícil de vender". Quiere salir de Suiza y reincorporarse a Alemania. ¿El gobierno suizo va a detenerte? Voy a tener que postergar eso porque no soy abogado. No tengo idea, pero estoy seguro de que es posible. Simplemente tengo curiosidad porque parece que, al menos en el momento de esta conversación, la OTAN todavía existe. Alemania y Noruega todavía están en la UE. Está la ley suiza, la ley alemana y luego la ley de la UE. Y la legislación de la UE también se está volviendo cada vez más estricta sobre lo que pueden escanear y lo que no. Mencioné el control de chat antes. Esa es la ley de la UE que exigiría a los proveedores de servicios escanear el contenido de los mensajes en busca de material CSAM y otros tipos de material infractor. Ese es un gran problema. Creo que Proton dijo: "Saldremos de la UE si nos obligan a hacer esto. Esto romperá la promesa central". Sí. Si te mudas a Alemania y Noruega, y luego la UE aprueba la versión más estricta del Chat Control, ¿estás preparado para irte? Sí. ¿Qué tan listo estás? ¿Puedes apretar el interruptor mañana? ¿A dónde irías? No lo sé, tendría que consultar con otras personas para eso. No estoy muy metido en eso, pero es una amenaza real. Sé que es una amenaza real. Sé que hemos hecho algunos preparativos sobre dónde podríamos aterrizar si tanto la UE como Suiza se vuelven inhóspitas. Hay cosas separadas. Existen desafíos prácticos: todos sabemos que estas cosas están sucediendo. Hay una ola, ya sea verificación de edad o descifrado de cifrado o cosas así, que parece estar de moda en este momento, y es algo contra lo que estamos luchando en el frente político. En mi opinión, está muy equivocado. Ojalá en algún momento la fiebre baje. No se puede etiquetar una puerta trasera con la bandera estadounidense y decir que sólo la gente buena puede usarla. No funciona así, ni una bandera de la UE ni nada por el estilo. Quizás esto retroceda un poco. Entonces está la parte práctica. ¿Qué hacemos si esto sucede? ¿Qué hacemos si esto sucede? Al fin y al cabo, los gobiernos tienen mucho poder sobre las políticas y hay que descubrir cómo pueden cumplirlas, o si no pueden cumplirlas, se van o hacen otra cosa. Pero hay muchos países en el mundo y creo que, en última instancia, haremos lo que tengamos que hacer. La otra parte (supongo que solo para usar un poco su plataforma para defender el caso) es que el control del chat, la verificación de edad y todo eso es una muy mala idea. No quiero decir… Existen amenazas reales para los niños en línea, y no es que no debamos tomarlas en serio, pero hay maneras de hacerlo. Hablamos antes sobre pensamiento sistémico y diseño de sistemas. Hay maneras de hacer esto que equilibran las preocupaciones apropiadas, que pueden ocultar material maduro detrás de puertas de edad que no revelan quién eres. Una vez que se construye un sistema que esencialmente elimina el anonimato en línea, ¿cuánto tiempo pasará antes de que ese sistema... quiero decir, sea el arma de Chéjov? ¿Cuánto falta para que alguien venga a usarlo? Si se construye, eventualmente alguien lo usará para propósitos para los que no fue diseñado. ¿Cuánto tiempo pasará hasta que China diga: “Oye, identifícame a todos los disidentes que están usando esto”? Porque tienen que usar su identificación para todo en Internet. Por eso queremos construir sistemas, sistemas de Internet, que no puedan ser controlados de esta manera. Así es como construimos Proton, pero creo que este principio se aplica a Internet en general.  Esto es una especie de experimento mental, ¿verdad? Probablemente voy a destrozar esto, pero había una estadística loca de que una enorme fracción de alemanes orientales en realidad fueron empleados por la Stasi como informantes sobre otros alemanes orientales en el apogeo de la Guerra Fría. Y el Telón de Acero, por supuesto, cayó prácticamente justo antes del amanecer de la era digital, en cierto modo, la era de Internet. Creo que se podría argumentar –y creo que se pueden considerar contraejemplos como el de China– que si algunos de los regímenes autoritarios del Bloque del Este hubieran llegado a la era digital, tal vez habrían tenido suficiente control sobre la información para no caer más, porque es mucho más fácil hacerlo. Entonces, el hecho de que Facebook y Google, posiblemente con sus ecosistemas publicitarios, hayan construido los sistemas de vigilancia más sofisticados (bueno, quizás el de China lo sea) pero algunos de los más sofisticados jamás construidos, pero hacemos lo más estadounidense que jamás haya existido con ellos, es decir, los usamos para venderte basura que no necesitas. Pero eso no significa que ese sea el único uso para ellos, y el hecho de que estén sentados en la repisa de la chimenea como el arma de Chéjov, esperando que alguien los recoja y haga algo verdaderamente horrible con ellos, es una amenaza para la sociedad libre. Todo lo demás con Chat Control y verificación de edad es lo mismo. Está diciendo: "Tenemos este daño. Construyamos un sistema para prevenir este daño que luego pueda usarse para propósitos realmente nefastos". Necesitamos asegurarnos de no diseñar sistemas que amenacen la existencia de una sociedad libre. Lo siento, ese fue mi discurso de tribuna, pero es algo que me importa profundamente. La razón por la que le pregunté tanto sobre la estructura de la empresa y su cultura y cómo se construyen los sistemas es que en Silicon Valley a menudo se expresa el idealismo. Lo he escuchado de todas las grandes empresas que usted ha descrito. Lo escucho de grandes empresas hoy en día, y luego los compromisos aparecen sigilosamente. Y a veces los compromisos son: "Bueno, estamos domiciliados en los Estados Unidos. Simplemente vamos a tener que escuchar. No hay nada que podamos hacer. Puede consultar nuestra página de orden judicial para ver cuántas solicitudes legales estamos recibiendo, y esa será la respuesta". A veces los compromisos son: "Mira, tenemos que crecer. Tenemos que hacernos más grandes, y eso es todo". Y a veces los compromisos son: “no hay manera de construir un sistema que proteja a las personas como queremos y cumpla con los regímenes legales”. Creo que el cifrado se encuentra en el centro absoluto de esa tensión. Daré el ejemplo de Apple porque creo que todo el mundo está familiarizado con Apple. Apple se resiste habitualmente a estos pedidos de una puerta trasera. [La empresa] es lo suficientemente grande como para hacerlo de la manera que puede hacerlo, y luego el iPhone queda sin día de todos modos. No importa. Ese ciclo se repite de una manera que se repite. Pero si hablas con la gente de Apple, te dicen: "Miren, los reguladores vienen a nosotros y nos dicen: 'Simplemente sean inteligentes. Hagan algunas cosas inteligentes, muchachos inteligentes, y encuentren una manera de crear una puerta trasera que preserve la privacidad'". Y la respuesta de Apple es: "No pueden". Es imposible. No podemos ser lo suficientemente nerds para resolver este problema por ti. Creo que hay cierta ignorancia deliberada por parte de los reguladores; Creo que los reguladores lo saben. Y luego creo que hay una gran cantidad de activistas que quieren proteger a los niños. Tal vez lo entiendan, tal vez no lo entiendan, pero lo que ciertamente entienden a un nivel visceral es que los niños están siendo perjudicados, ¿verdad?  Todos los demás sistemas que todos afirman que pueden mejorar los problemas o mitigar el riesgo de encriptación no existen en realidad, de modo que los niños no sufren el daño al ritmo que lo hacen hoy. Te sientas en medio de esto. Los gobiernos del mundo vienen a ti. Te han pedido puertas traseras. Le han pedido que escanee los mensajes de chat del lado del cliente para detectar CSAM. ¿Cuál es tu respuesta a ser simplemente inteligente? ¿Simplemente ser más nerd y descubrirlo? Quiero decir, es imposible crear una puerta trasera que sólo puedan utilizar los buenos. Y las consecuencias de que los malos utilicen las puertas traseras son básicamente catastróficas, ¿verdad? Creo que mencionaste que todavía se perpetran daños a este ritmo y eso sería... Como a escala masiva. Creo que es importante decirlo claramente. El daño se está perpetrando a escala masiva. Quiero decir, las preocupaciones son legítimas, ¿verdad? Pero toleramos muchos daños. Toleramos ingerir cosas que no son buenas para ti si eres adulto, ¿verdad? Y esto tal vez esté centrado en Estados Unidos, pero ha habido varios... Quiero decir, no sé si todavía es un precedente sobre la forma en que van las cosas, pero ha habido varios precedentes judiciales que básicamente han dicho eso... Creo que esto en realidad tiene que ver con el escaneo o algo así; Han dicho: "Está bien, estos deben ser compatibles y equilibrados con la restricción de la libertad de los adultos, para ser esencialmente muy, muy seguros". Puedes hacer que la sociedad sea muy, muy, muy segura quitando toda libertad. Puedes hacer eso. Y esto es una compensación de lo que queremos hacer, pero no creo que la gente internalice completamente el hecho de que demasiada seguridad tal vez sea un mundo en el que no quieran vivir también. Creo que fue Ben Franklin, una vez más, para no ser demasiado estadounidense, pero las personas que cambiarían la libertad por la seguridad no merecen ninguna de las dos cosas. Estoy parafraseando. Soy estadounidense. Ahora vivo en Europa, pero soy originalmente estadounidense. Hay muchas personas que realmente tocan el tambor de la libertad en los EE. UU., pero están dispuestas a renunciar esencialmente a toda su privacidad.  Creo que la privacidad y la libertad están inextricablemente conectadas. No puedes ser libre sin privacidad. Así que creo que aquí hay que hacer una compensación, y podemos discutir cuál es la compensación, pero la compensación no debería ser que hagamos que todo el sistema sea transparente para quien quiera mirar. Porque hay gente realmente mala que quiere mirar. E incluso si piensas que el gobierno nunca será esa mala persona, lo cual parece ingenuo, pero incluso si piensas que ese es el caso, hay todo tipo de ciberdelincuentes en todas partes. Esas puertas traseras o vulnerabilidades (supongo que las vulnerabilidades son más fáciles que las puertas traseras), pero esas vulnerabilidades que se han encontrado o introducido en la criptografía tienen un largo historial de ser explotadas por malos actores. La historia es clara. Es imposible tener una puerta trasera que no pueda ser explotada excepto por las personas a quienes está destinada. Entonces creo que hay otras formas de hacer esto, creo que necesitamos- ¿Puedes describir esas otras formas? Creo que tal vez esto falte en la conversación. Si existen otras soluciones técnicas para mitigar el daño, ¿cómo serían? Mucho de esto sería meterse en la maleza sobre cómo hacer las cosas. Adelante. Para eso es este programa. Seguro. Por ejemplo, existen las pruebas de conocimiento cero, que básicamente implican la capacidad de demostrar que tengo más de 18 años sin darte ninguna otra información al respecto. En realidad, hay varias formas de hacerlo, algunas de las cuales no implican pruebas de conocimiento cero, pero están muy lejos de... Discord, que se metió en problemas, lo olvidé, hace uno o dos meses por tener una brecha de seguridad en la que hicieron una verificación de edad y luego tenían (no recuerdo lo que era) una especie de depósito abierto [AWS] S3 o algo con toneladas de identificaciones de personas y esas cosas. Ésta no es la forma correcta de hacerlo. Pero te garantizo que la gente hará esto mal. Si cada sitio web tiene que recopilar su identificación, estamos en un gran [problema]. Por lo tanto, hay formas de que los emisores hagan que, por ejemplo, una persona de confianza le emita una identificación. Puede ser una credencial local. Puede ser una credencial. También puede ser una credencial almacenada en la nube, pero de forma cifrada para que el servidor no pueda ver cuál es la credencial y luego hacer que su dispositivo revele selectivamente, digamos, que la edad es mayor de 18 años, si el sitio al que va lo requiere. No tiene que ser: "Esta es tu dirección, este es tu nombre, esto es lo que sea". Puede ser simplemente, oh sí, esta persona tiene una declaración jurada firmada criptográficamente que dice que mayores de 18 años, déjenlos entrar. Esa es una solución técnica a una demanda regulatoria, ¿verdad? ¿Cree que la solución técnica debe incluirse en el reglamento o debe haber algún régimen de “así es como se hace de la manera correcta”? ¿O cree que la industria tiene que unirse y decir: "Vamos a hacer pruebas sin conocimiento"? No, creo que ciertamente ayuda si la industria se une. Existe una iniciativa de identificación de la UE, que en realidad es bastante buena. No es un conocimiento nulo, pero es bastante bueno. Hay algunos problemas con este tipo de credencial. Obviamente, las credenciales digitales se pueden copiar, por lo que debes asegurarte de que no sean copiadas, publicadas en Internet y utilizadas por un millón de personas. Entonces, existen algunas compensaciones contra el abuso, ¿verdad? No querrás que todos los adolescentes de EE. UU. utilicen la identificación de un hombre de algún país. Yo habría sido ese adolescente, para que quede 100 por ciento claro. Absolutamente habría sido ese adolescente. [Risas] Sí, seguro. Creo que, en general, los plazos son muy diferentes. La historia de incluir soluciones exactas en los marcos regulatorios es bastante deprimente. Pero creo que las leyes que hacen esto podrían redactar cosas de manera que exijan protecciones de privacidad de una manera que creo que no se ha hecho. Esto conduciría a la solución técnica. Esto es lo que estoy preguntando. El gobierno dice: "Mire, hay que empezar a verificar la edad. Los niños ven todo tipo de cosas raras en línea. Tenemos que empezar a bloquear parte de este contenido de la misma manera que bloqueamos, no sé, las tiendas de pornografía físicamente". Bien. "O bloquearemos las películas con clasificación R. Está bien, tenemos que hacerlo". Y la industria inevitablemente elegirá la solución más barata; simplemente vamos a almacenar las licencias de conducir en depósitos S3. Seguro. O inevitablemente elegirán la solución que les permita comercializar esa información de alguna manera, ¿verdad? Te sientas en medio de eso. Tus ideales y tu estructura te impiden hacer la peor y más barata versión de esto. Sí. ¿Cómo logra que la industria coincida con sus valores? ¿Es que el regulador exige la solución, lo que usted parece considerar una mala idea? ¿Es que imponen limitaciones a la solución, lo que lleva a todos a hacer lo correcto? ¿De dónde viene eso? Oh, esto es complicado. Si supiera la respuesta, la presionaría. Pero creo que las asociaciones son una de ellas. Creo que, sin duda, las directrices regulatorias sobre lo que se puede almacenar, lo que no se puede almacenar y cuánto se puede saber sobre los clientes probablemente sean clave. Creo que esto quizás entra un poco en cuestiones de competencia, pero muchos daños potenciales también provienen de la integración vertical total de muchas cosas. Entonces, exigir que las cosas sean entidades separadas y, por lo tanto, no voy a mencionar eso en esta charla, pero esto puede hacer mucho para prevenir ciertos tipos de daños y tentaciones de abusar de las cosas. Pero creo que la regulación y la inclusión de requisitos de privacidad en las regulaciones es sin duda el primer paso. Y esas implementaciones compatibles al menos lo tienen integrado. También creo que esto es difícil de hacer, pero imponerlo a los fabricantes de sistemas operativos también puede ser algo peligroso porque ayuda a consolidar esos puntos críticos. Ya tenemos muchos puntos críticos para Google, y Apple tiene estos: Es gracioso. Apple realmente está presionando contra esto, pero a Apple le encanta estar arraigado como un cuello de botella. ¿Por qué crees que están presionando para que no sea el verificador de edad? Esa es una buena pregunta, en realidad no lo sé. Uno pensaría que se lanzarían a ello, ¿verdad? Quiero decir, ciertamente les encanta ser el cuello de botella de la App Store y cobrarles a todos el 30 por ciento.  Sé que has estado en una pelea. Sí. Proton ha estado en una pelea con Apple por las políticas de la App Store. En este caso, su interés sería obvio al decir: "En realidad, mantendremos el control. Este 30 por ciento, dejen de molestarnos por el 30 por ciento, reguladores, porque les proporcionaremos una verificación de edad". Sí. Quiero decir, creo que podrían verlo simplemente como un juego sin salida en el sentido de que puedes KYC, o conocer a tu cliente, tan bien como quieras, pero habrá algunos que se te escaparán, y luego serás responsable. Entonces tal vez solo quieran que lo haga un tercero, así que ese no es su problema, ¿verdad? No sé. Esa podría ser la respuesta completa. Déjame preguntarte esto. Hablamos de verificación de edad. No estoy seguro de que haya una respuesta que resuelva todos los problemas, pero usted ha presentado algunos enfoques técnicos que al menos equilibrarán los daños.  Cuando dije que el daño está ocurriendo a gran escala, lo que quise decir fue CSAM, es decir, material de abuso sexual infantil. Esto está sucediendo a gran escala en Internet. Todos lo sabemos. Hay muchísimas formas de mitigarlo. Y luego hay plataformas que no podemos ver, donde de todos modos va a suceder. El protón es uno de ellos. iMessage es en realidad otra, si cifra completamente iMessage. Apple recibe muchas críticas por eso. La respuesta de Apple es la misma que la de Proton: "No hay manera de hacer esto. Simplemente no podemos darte una manera de hacerlo que no cree puertas traseras para todos los demás malos actores. Si lo quieres, no lo vamos a hacer". ¿Cuáles son las soluciones para mitigar los daños del CSAM sin crear puertas traseras? Porque siento que eso también falta en esta conversación, especialmente cuando hablo con los activistas que están enfocados en la escala del daño. Así que no puedo describir exactamente lo que hace Proton porque la lucha contra el abuso es una de las cosas en las que la seguridad a través de la oscuridad realmente ayuda. Ayuda que los malos actores no sepan lo que hacemos. Pero puedo decir que se puede combatir el CSAM sin necesidad de escanear el contenido. Es posible. Mucho de eso es... De todos modos, probablemente no debería decirlo, pero puedes luchar contra el CSAM. No digo que sea lo mismo. No es tan efectivo como escanear todo, pero también en la era de la generación de imágenes por IA, quién sabe qué es real o no. No es que el CSAM generado por IA sea bueno, pero el punto es que no se sabe si hay una víctima real, o no, etcétera. Por eso creo que existen cosas alternativas a escanear cada imagen que se pueden hacer para combatir el CSAM. Y hemos hecho esto durante años, y es difícil saber qué tan efectivos hemos sido porque no sabemos realmente cuál es el denominador. Creo que lo hemos sido al menos en términos de redes que hemos identificado: hemos identificado algo, lo hemos cerrado y lo hemos mitigado. Tenemos un gran interés en mantener a los malos actores de todo tipo fuera de la plataforma porque nuestro objetivo es... La misión no se cumplirá si es "Oh, esta es una plataforma para delincuentes". Y como resultado, no lo es. Quiero decir, para la gran mayoría de los usuarios de Proton… Dedicamos casi el 10 por ciento de los recursos totales de la empresa a luchar contra el abuso. Nos tomamos muy en serio hacer el menor abuso posible en la plataforma. Entonces se puede hacer. Es un centro de costos. Es un centro de costos y uno que comemos. No nos genera dinero, pero se puede hacer. Creo que la otra cosa es, y esto no es solo CSAM, sino el hecho de que la esfera digital no es el único lugar donde se cometen estos crímenes. También está la esfera física. Ahí están las víctimas reales. Hay personas reales perjudicadas por esto. Creo que todo el mundo quiere que su trabajo sea más fácil. Los policías no están exentos de esto. Por eso les encantaría escanear todo lo que hay en Internet y, en realidad, no los culpo por esta solicitud porque facilitaría mucho su trabajo y realmente quieren reducir el daño. Sin embargo, creo que necesitamos hacer un equilibrio entre eso y la amenaza que también representa para la sociedad libre. Así que creo que probablemente se pueda hacer más en el espacio físico para combatir este tipo de abuso con recursos y todo eso. Pero diré, y lo repetiré, que el escaneo de contenido no es la única forma de hacerlo. También hay algunos escaneos de contenido que se pueden realizar sin infringir la ley. Puede ser del lado del cliente; pueden ser otras cosas. Se puede hacer en secreto. En cierto modo, esto también es muy complicado, pero hay cosas que se pueden hacer para lograrlo sin violar la privacidad a gran escala, lo cual es un precio que creo que es simplemente demasiado alto. Está diciendo que existe un sistema que no puede describir del todo y que es eficaz para detener los daños del CSAM a gran escala. ¿Es esto verificable por parte de algunas de las personas que desean imponer las regulaciones? ¿Es auditable? La seguridad a través de la oscuridad tiene estos problemas, ¿verdad? Tenemos que confiar en ti. Gran parte de esta conversación se ha centrado en cuánto podemos confiar en Proton estructural y personalmente. El problema es que no sé cuál es el denominador. No sé si encontramos el 50 por ciento de ellos; No sé si encontramos el 10 por ciento de ellos. No sé si encontramos el uno por ciento de ellos, porque todo lo que sé es lo que encontramos. Incluso entonces, es probabilístico. No vemos las imágenes. A veces no lo sabemos. A veces tenemos una pista mejor, pero no diré cómo. Pero no vemos las imágenes en ningún caso. No somos legalmente capaces de hacer eso, y Dios sabe que de todos modos no queremos someter a nuestros empleados a eso.  Pero no, no sabemos cuál es el denominador, así que no sé qué tan efectivo es. Sé que podemos correlacionar esto hasta cierto punto con el tipo de solicitudes legales que recibimos, y que son bastante pocas y espaciadas.  Creo que si esto fuera un problema enorme en la plataforma, recibiríamos muchas más solicitudes legales de metadatos con respecto a esto y cosas así. Y ese es nuestro representante, no para CSAM en particular porque a menudo no sabemos de dónde provienen las solicitudes, pero en general, uno de nuestros representantes es: "Está bien, ¿cuántas solicitudes legales recibimos de datos?" A diferencia de lo buenos que somos en la lucha contra el abuso. Si las solicitudes legales se disparan, cosa que no ha sucedido, entonces obviamente tenemos un gran problema con la lucha contra el abuso, y ese no ha sido el caso.  Entonces sé que es una respuesta indecisa, pero ese es el problema. Los datos son privados. No podemos leerlo. Eso es todo lo nuestro. Por supuesto, también tenemos un sistema de informes. La gente comete errores como cualquier otra persona. Entonces, si comparten una imagen, que se puede denunciar, se puede eliminar. Entonces hay muchos mecanismos. Una vez más, ando de puntillas para decir cualquier detalle porque no quiero que esto se vuelva ineficaz. Pero creo que hacemos un buen trabajo en relación con los indicadores externos que podemos ver. Te daré un ejemplo en el que no es CSAM, pero es algo similar, ¿vale? Solíamos recibir muchas solicitudes, relativamente hablando, muchas solicitudes de cuentas de ransomware porque la gente iba a Proton. Recibe un correo electrónico de Proton que, no sé, [enlace] con algo de Bitcoin, ¿verdad? Lo que sea. Esto lo obtendríamos en las solicitudes legales. Podríamos ver eso y decir: "Oh, definitivamente es una cuenta de ransomware por varias razones". " Nos volvimos muy, muy buenos eliminando cuentas de ransomware. Ahora, de vez en cuando todavía recibimos [solicitudes sobre] ellos, pero los habremos inhabilitado por abuso seis meses antes de que recibamos la solicitud legal. Estoy usando el ransomware como analogía, pero tenemos un circuito de retroalimentación para saber qué tan buenos somos. Entonces hay algo en su sistema, hay un conjunto de indicadores que pueden detectar y simplemente no me van a decir cuáles son. Pero, ¿existe algún conjunto de indicadores de cómo funciona una cuenta en su sistema que le permiten saber para qué se utiliza? Sí. ¿Algún gobierno les ha preguntado alguna vez cuál es ese conjunto de indicadores? No. Interesante. Con suerte, eso no sucederá hoy. Policías, si están escuchando, olviden que escucharon algo de esto. Nos estamos quedando sin tiempo aquí. Al final, quiero preguntar rápidamente sobre la IA. Porque hemos hablado de sistemas y dinámicas que creo que son bastante familiares. Entré en Usenet y Slashdot y probablemente escuché esa cita sobre libertad y seguridad 10.000 veces. Esa es la base de mi vida en Internet. [Risas] Claro. Este debate, desde, no sé, los años 80 y 90 hasta ahora, es el mismo. Y tal vez la IA vaya a voltear todo el carro de las manzanas. Ahora podemos hacer ciberseguridad a escala de manera que los gobiernos intervengan y detengan el envío de los modelos. Sea o no correcto, eso es lo que realmente está sucediendo en el mundo. Podemos generar grandes cantidades de datos sintéticos que podrían activar todos sus sistemas de detección, independientemente de si se producen daños o no a partir de esos datos. Ha enviado un asistente de inteligencia artificial porque un grupo de países no quiere depender de empresas modelo estadounidenses, y para ellos es importante tener soberanía de datos en Europa. Esto parece una oportunidad de mercado para usted. ¿Cuál es su enfoque ante todo esto? ¿Confías en el modelo de IA? ¿Depende de empresas fronterizas? ¿Estás construyendo tu propio modelo? ¿Cómo proteges tus datos de ellos? Al final, parece que todo esto trastorna, de manera significativa, las estructuras y los sistemas que hemos estado describiendo hasta ahora. Creo que no estoy tan preocupado. Quizás no haya tenido un efecto tan dramático en los temas que hemos discutido. Tenemos Lumo, nuestro propio interno, que está gestionado. Controlamos los sistemas en los que se ejecuta y queremos ser independientes de modelos de terceros y cosas así. ¿Es realmente un modelo que usted ha entrenado o es confiable? No, son modelos de código abierto los que hemos compilado. Y es una colección de modelos de código abierto que unimos en función de sus fortalezas y debilidades. Pero sí, no tenemos mil millones de dólares que gastar para entrenar nuestros propios modelos. En realidad, esta es la razón por la que podríamos ser una de las pocas empresas de IA que realmente ganan dinero con la IA, porque no realizamos ninguna capacitación, ¿verdad? Vendemos la inferencia. No es que no haya mucho trabajo involucrado en la construcción de Lumo, pero sí, no entrenamos nuestros propios modelos. Supongo que hay dos lados diferentes. Está la pregunta "¿cómo afectará la IA a la industria en general?" y tal vez “cómo nos ha afectado y cómo lo usamos”. Entonces, muchas de nuestras cosas, en particular las del lado del cliente, son de código abierto. Las cosas del lado del cliente tampoco son secretos del usuario. Entonces probamos modelos de Anthropic y ChatGPT. También probamos Lumo con OpenAI porque, al final del día, gran parte es pública de todos modos y no son secretos del usuario, por lo que usaremos la mejor herramienta para que podamos ir lo más rápido posible.  Ha cambiado la ingeniería de software, probablemente de forma permanente, en términos de la cantidad de tiempo dedicado a escribir código en comparación con otras cosas. Pero tal vez no tan fundamentalmente. Quiero decir, la gente habla de esto de SaaSpocalypse de que cada empresa escribirá su propio software empresarial. Personalmente, simplemente no lo creo. Hay una gran diferencia entre poder crear su propio software de órdenes de compra personalizado, ERP o cualquier cosa que funcione para su pequeña empresa, tal vez más o menos, y luego el tipo de cosas que, ya sea cumplimiento, escalamiento, confiabilidad, todas estas cosas que las empresas necesitan y que usted no va a necesitar... quiero decir, simplemente no puedo imaginar que todas las empresas construyan [las suyas propias]. "Oh, el software está muerto. No vamos a tener proveedores que hagan esto y que puedan prometernos las cosas que necesitamos". No sé si estoy respondiendo a tu pregunta aquí, pero la otra cosa acerca de esto es que, para mí, en todo caso, ha cambiado lo que se valora en ingeniería de software hacia habilidades de nivel superior, tal vez. Pero no ha cambiado fundamentalmente qué es un buen software ni cómo diseñar un buen software. En todo caso, cosas como revisar el código de otras personas... Bueno, hoy estás revisando el código de otras personas y estás revisando el código del robot, pero es más o menos la misma habilidad. Entonces, tal vez el equilibrio anterior era un poco más hacia, está bien, ¿puedes escribir código muy rápido y con precisión con este tipo de cosas? Ahora es como, está bien, es más hacia, ¿puedes revisar el código muy rápidamente? Lo cual tal vez sea una habilidad de mayor nivel. Pero sigue siendo parte del conjunto de herramientas del ingeniero de software: diseñar un buen software, qué significa un buen software, cómo se ve un buen software. Creo que una cosa que hemos descubierto es que los LLM funcionan mucho mejor cuando el código está bien diseñado. Si su código está bien diseñado, el LLM funcionará mejor. Si su código es un desastre, el LLM no funcionará tan bien porque son motores lógicos. Hay más posibilidades de que se confundan. Entonces, muchos de los fundamentos de la creación de software (sí, la industria ha cambiado), pero muchos de los fundamentos de la creación de software son diferentes.  La otra cosa que encontramos es que el tiempo que dedicas a escribir código ha disminuido. Ahora, hay otros cuellos de botella en su proceso que debe abordar. Ahora tal vez su [integración continua] demore demasiado. Ahora tal vez tus otras cosas demoren demasiado. Por lo tanto, puede cambiar el tipo de cosas que necesita optimizar, pero al final del día, creo que para la mayoría de los ingenieros de software senior, la cantidad de tiempo que realmente dedicaron a escribir código, francamente, no fue la parte más difícil de su trabajo ni en la que dedicaron la mayor parte de su tiempo. Creo que el software es probablemente la industria más afectada y la más manejable para los LLM que he visto, al menos hasta ahora. Obviamente, tiene otros usos, pero es software; está basado en reglas. Puedes probar la corrección. Puede mitigar muchas de las cosas que los LLM pueden descarrilar y alucinar. Al final del día, necesitas un código que funcione, ¿verdad? Entonces puedes probar este tipo de cosas.  Puede mitigar muchos de los problemas con los LLM. El software es su mejor escenario. E incluso entonces, por lo que he visto, es una evolución. No es una revolución. Definitivamente es un gran cambio, pero es en gran medida un cambio de productividad, no “dejar todo y empezar de nuevo”. Quizás me equivoque en eso. Y tal vez a medida que los modelos mejoren, la situación se volverá cada vez más dramática. Pero por el momento, es una gran oportunidad para la productividad. Creo (y el software es lo que mejor conozco) que los temores son un poco exagerados. Déjame preguntarte del otro lado de eso. Mencionaste antes que ahora es posible mirar todos los correos electrónicos y realizar una vigilancia masiva. Anthropic se dirigió al gobierno de los Estados Unidos como: "Puedes hacer esto con nuestro modelo. No queremos que lo hagas porque en realidad no creemos que sea lo suficientemente bueno, y creemos que hay problemas reales al hacerlo".  Tú también te enfrentas a eso, ¿verdad? Tienes tu propio modelo interno de IA. Probablemente sus usuarios estén generando más datos dentro de sus sistemas que nunca con IA. Simplemente parece algo que sucede cuando agregas IA a un sistema. Los modelos mejoran cuando les proporcionas más datos. Tienen un apetito voraz por los datos. Eso supone mucha presión sobre "vamos a mantener todo en privado". Hay mucha presión sobre quién puede ver tus cosas, por qué pueden verlas y qué pueden hacer una vez que las tengan. Y el valor de tenerlo parece estar subiendo. El valor de recopilar todos los datos parece estar aumentando. Sí. ¿Cómo se responde a eso, incluso cuando hay que implementar sistemas de inteligencia artificial para competir con la gran tecnología que los está colocando literalmente en todas partes? Creo que esto se reduce a lo que mencioné antes: la privacidad es control. La privacidad es autodeterminación en el sentido de que usted controla sus datos y controla con quién se comparten. Y tal vez ese “quién” sea un sistema de inteligencia artificial, y eso está bien.  Creo que siempre y cuando se trate de una opción voluntaria por parte del usuario... En realidad, esto es un debate interno, pero ya tenemos funciones. Por ejemplo, está bien, tenemos una función de lista de correo. ¿Bueno? Prometo que esto tiene algo que ver con la IA, con el aprendizaje. [Risas] Es una constitución grande; Aquí vamos. Pero tenemos una función de lista de correo, y esa función se realiza de manera privada. Le envío un correo electrónico, o envío un correo electrónico a la lista de correo, y ésta envía el correo electrónico a todos los demás. El sistema no lo ve. Pero si desea que haya personas ajenas a Proton en su lista de correo, entonces ya no podemos realizar cifrado de extremo a extremo. Tenemos que apagarlo.  Entonces, cuando agrega personas externas a su lista de correo, se le pregunta: "Oye, si quieres activar destinatarios externos, debes desactivar el cifrado de extremo a extremo". El usuario dice que sí, porque eso es parte de su flujo de trabajo. Lo necesitan. En ese momento, todavía no guardamos una copia. Todo lo guardado en Proton está cifrado en reposo. Sin embargo, tenemos un correo electrónico de texto claro pasando por nuestro sistema porque necesitamos enviarlo a quienes sean los destinatarios externos, ¿verdad? Ese es el tipo de modelo que veo en el futuro con algunos de estos. No se trata solo de sistemas de inteligencia artificial; También son las integraciones las que, y especialmente a medida que nos involucramos más en clientes comerciales y demás, necesito esta integración en mi CRM, ¿verdad? Voy a elegir compartir este buzón con mi CRM. Está bien. Esa puede ser una decisión, y nuestro trabajo es crear una interfaz de usuario que comunique cuáles son las consecuencias de ello. Pero la privacidad es fundamentalmente... No se trata de no compartir cosas. No se trata de no compartir tus fotos; No se trata de no compartir tus datos con terceros. Se trata de compartir los datos con los terceros que tú elijas, y no sólo por defecto con todos. Ése ha sido una especie de paradigma tecnológico de la Web 2.0 o como quiera llamarlo, durante las últimas dos décadas. Así que creo que podemos reconciliar esto con lo de Proton porque nunca se trató solo del cifrado. El cifrado es una herramienta para el fin. Se trata de, oye, el hecho de que haya almacenado datos en la computadora de otra persona en Internet no significa que le dé control para hacer lo que quiera con ellos, o que confíe en que no los perderá. Entonces, vamos a intentar construir un sistema en el que conserve ese control y aún pueda participar en servicios en línea modernos, ¿verdad? Siento que vamos a tener que tenerte de regreso pronto para ver cómo se pone todo a prueba. Esto es nuevo. Sí. Siento que en los próximos años sabremos más, así que te tendremos de regreso pronto. Nos has dado mucho tiempo extra. Bart, muchas gracias por estar en Decoder. Gracias. Muchas gracias; fue una maravilla. Te lo agradezco. ¿Preguntas o comentarios? Contáctenos a [email protected]. ¡Realmente leemos cada correo electrónico!