Hari ini di Decoder, kita mendapatkan seri pertama dari dua bagian tentang sistem yang menjalankan dunia: Saya berbicara dengan Bart Butler, CTO Proton, perusahaan yang membuat perangkat lunak produktivitas pribadi dan aman. Anda mungkin paling mengenal Proton Mail, yang dienkripsi secara default, namun perusahaan tersebut juga memiliki dokumen, sheet, kalender, dan bahkan asisten AI baru bernama Lumo, semuanya dibuat dan dipasarkan berdasarkan gagasan bahwa mereka harus jauh lebih pribadi dibandingkan produk dari perusahaan Teknologi Besar. Anda akan mendengar Bart mengatakan dengan cukup jelas bahwa apa yang Proton jual, pada tingkat tinggi, bukanlah produk itu sendiri, namun sebenarnya kepercayaan. Dan kepercayaan terhadap dunia perangkat lunak tidak hanya terletak pada orang-orang yang menjalankan perusahaan, namun juga pada teknologi yang mereka kembangkan dan jual serta struktur perusahaan yang ada untuk memastikan bahwa teknologi dibangun dengan insentif yang tepat. Dengan kata lain, umpan Decoder murni. Tantangannya adalah Bart juga mengatakan bahwa salah satu misi Proton adalah berhasil menjadi pesaing yang layak bagi Big Tech, dan itu berarti perusahaan harus tumbuh dan berkembang ke skala yang kompetitif, sambil mempertahankan nilai-nilai intinya. Filosofi ini, dan tantangan tersebut, tertanam langsung dalam struktur Proton dan bahkan lokasi fisiknya — perusahaan dan servernya berbasis di Swiss, sebagian karena netralitas geopolitik pemerintah Swiss. Dua tahun yang lalu, Proton juga bertransisi ke struktur nirlaba yang diatur oleh sebuah yayasan, yang merupakan model umum yang digunakan oleh semua jenis perusahaan yang berpura-pura beroperasi demi kepentingan publik, namun memiliki modus kegagalannya sendiri, seperti yang baru saja kita lihat pada OpenAI. Pelanggan Verge, jangan lupa Anda mendapatkan akses eksklusif ke Decoder bebas iklan di mana pun Anda mendapatkan podcast. Pergilah ke sini. Bukan pelanggan? Anda dapat mendaftar di sini. Kami membicarakan semua itu, tapi saya benar-benar ingin berbicara dengan Bart karena dia bertanggung jawab atas konstruksi teknis dari beberapa sistem yang sangat kompleks yang berinteraksi dengan semua politik yang kompleks ini. Saya benar-benar ingin tahu bagaimana Anda menerjemahkan semua cita-cita dan konsep luhur seperti kepercayaan pengguna menjadi produk dan fitur nyata yang berpusat pada privasi yang dapat menahan semua tekanan kebijakan ini.  Misalnya, awal tahun ini, pemerintah Swiss meminta data pembayaran yang menyebabkan FBI membuka kedok seorang pengunjuk rasa yang terkait dengan gerakan Stop Cop City di Atlanta, Georgia, permintaan yang dipenuhi oleh Proton. Jadi tentu saja saya harus bertanya kepada Bart tentang semua hal tersebut, dan apa artinya pemerintah AS dapat menggunakan kata-kata seperti “terorisme” untuk memaksa pemerintah asing memberikan tekanan pada Proton – dan bagaimana perusahaan tersebut memutuskan kapan dan bagaimana melakukan perlawanan tersebut.  Tekanan ini terwujud dalam berbagai cara. Proton tercatat mengatakan akan meninggalkan Swiss, dan Bart mengatakan pihaknya juga akan mempertimbangkan untuk menghentikan operasinya di negara-negara UE seperti Jerman dan Norwegia jika berbagai undang-undang pengawasan yang diajukan melalui pengadilan Eropa terus mengancam misi privasi Proton. Bart mengatakan kepada saya bahwa ini bukan sekadar ancaman kosong dan bahwa Proton sedang dalam proses memikirkan apa artinya meninggalkan Eropa jika keadaan, dalam kata-katanya, menjadi lebih “distopia”. Ada banyak hal dalam hal ini. Kami berlari cukup lama karena kami masuk terlalu dalam ke dalam rumput liar. Pertama-tama, kami menghabiskan waktu untuk membahas kerangka kerja yang luas sebelum membahas masalah nyata terkait keselamatan anak, verifikasi usia, dan AI — yang semuanya menguji nilai-nilai Proton dengan beberapa masalah dengan risiko tertinggi di internet saat ini. Namun kami meluangkan waktu ekstra untuk mencapainya, dan saya harap menurut Anda itu sepadan.   Oke: Bart Butler, CTO Proton. Ini dia. Wawancara ini telah sedikit diedit agar panjang dan jelasnya. Bart Butler, Anda adalah chief technology officer di Proton. Selamat datang di Dekoder. Terima kasih. Senang berada di sini. Saya senang berbicara dengan Anda. Rasanya seperti Proton berada di tengah-tengah perdebatan yang kian meningkat mengenai bagaimana kita membangun sistem teknologi, bagaimana kita mengaturnya, dan bagaimana konsumen dapat melindungi data mereka atau memiliki kendali apa pun atas data mereka yang menjadi pusatnya. Mari kita mulai dari awal. Saya rasa kebanyakan orang memahami Proton sebagai ProtonMail, namun kini terdapat serangkaian produk kantor dan produk produktivitas. Jelaskan apa itu Proton dan bagaimana Anda melihat semua produk bekerja sama. Jadi Proton adalah sebuah ekosistem, jika Anda mau — kumpulan produk yang semuanya memiliki DNA yang sama dalam arti bahwa produk tersebut pada dasarnya, dalam banyak kasus, adalah versi produk yang dapat Anda beli di tempat lain, namun tetap menjaga privasi, bukan?  Ya, kami mulai dengan surat. Kami juga memiliki VPN. Kami memiliki Proton Drive, yang merupakan penyimpanan file, foto, dan dokumen kolaboratif real-time kami. Kami memiliki kalender. Kami memiliki pengelola kata sandi yang disebut Proton Pass. Kami memiliki Meet, yang merupakan perangkat lunak konferensi video. Jadi kami memiliki seluruh koleksi produk yang dalam beberapa kasus berfungsi sangat mirip dengan produk lain yang mungkin lebih Anda kenal, namun juga menjaga privasi. Salah satu alasan saya bersemangat untuk berbicara dengan Anda secara khusus sebagai chief technology officer adalah gagasan bahwa ada serangkaian produk yang familiar, namun perusahaan yang menjalankannya akan berperilaku lebih baik daripada perusahaan lain, merupakan pola yang lazim di industri ini. Tentu saja. Dan Proton berjanji bahwa produknya sebenarnya dirancang secara berbeda. Ya. Bahwa sejak awal, cara produk dibuat sebenarnya yang membuat dan menepati janji untuk melindungi privasi, bukan CEO atau dewan direksi yang baik hati. Kami akan membahasnya. Ada beberapa hal yang tercampur di sini. Ada beberapa di antaranya juga. Ada beberapa hal tentang struktur perusahaan, tapi ya, saya juga menganggap bahwa sebenarnya, menurut saya, ada dua struktur utama… atau mungkin sistem. Anda dapat menyebutnya sebagai rekayasa sistem dalam skala yang lebih luas, namun terdapat kendala struktural pada cara Proton beroperasi. Yang pertama adalah kami mengenkripsi semua data yang kami bisa. Jadi jika kami ingin berbalik dan menjual data tersebut kepada seseorang, kami tidak bisa. Secara matematis tidak mungkin kita melakukannya, bukan? Ini juga memiliki manfaat lain. Kami tidak bisa dengan mudah menyerahkannya kepada peretas atau pihak berkepentingan lainnya, dan ada beberapa data yang bisa kami tanggapi, misalnya, permintaan hukum, namun ada beberapa data yang tidak bisa kami tanggapi. Dan ini membantu kita; pada dasarnya, kami tidak bisa menyerahkan data yang tidak dapat kami akses. Yang kedua adalah model bisnis. Maksud saya, tentu saja ada pemain SaaS lain yang melakukan ini. Saya rasa tidak banyak pemain SaaS berbasis konsumen B2C sebesar kami yang melakukan hal ini, namun model pendapatan kami dibayar oleh pengguna kami, bukan? Jadi kami tidak menjual iklan. Produk tersebut bukanlah sesuatu yang menarik untuk membuat orang datang dan memberikan data mereka kepada kami sehingga kami dapat menjualnya kepada pengiklan. Dan itu berarti bahwa para pengguna tersebut – yaitu mereka yang membayar tagihan kami, membayar gaji kami – memungkinkan kami mengembangkan bisnis. Jika kita mengkhianati mereka, hal itu pada dasarnya akan merusak nilai bisnis. Kami telah mengaitkan nilai bisnis dan pertumbuhan bisnis dengan perlindungan pengguna sehingga kepentingan kami selaras. Ini juga sangat penting karena godaan adalah suatu hal. Masyarakat merespons terhadap insentif, dan kami telah mengatur struktur perusahaan kami sedemikian rupa sehingga insentif tersebut selaras dengan masyarakat yang telah kami janjikan untuk dilindungi. Jika saya ingin meringkas apa yang baru saja Anda katakan, kami mengambil uang dari konsumen, dan yang kami jual kepada mereka adalah versi terenkripsi dari layanan populer yang mereka andalkan, seperti email, VPN, dan office suite. Apakah menurut Anda konsumen memahami bahwa yang mereka beli adalah solusi teknologi, atau apakah mereka membeli janji privasi? Atau itu campuran? Karena saya sebenarnya tidak yakin konsumen benar-benar memahami cara kerjanya dalam skala besar, bukan? Mereka mengira iPhone mereka mendengarkan mereka. Apa yang akan saya sampaikan kepada staf produk dan teknisi dalam rapat tentang fitur-fitur baru adalah jika Anda menyebutkan kata enkripsi kepada pengguna, Anda telah gagal. Maksudku, orang-orang tidak mengerti apa ini. Tidak apa-apa. Tujuan kami adalah membuat produk yang dapat digunakan dan berfungsi sama seperti pesaing kami, atau lebih fungsional. Maksud saya, saya tidak ingin terdengar sepenuhnya turunan. Kami memiliki fitur-fitur yang tidak dimiliki orang lain yang sering kali ditujukan untuk privasi dan fungsionalitas bagi orang-orang yang memerlukan komunikasi rahasia. Namun, secara umum, kami menjual janji tersebut. Kami menjual janji bahwa kami adalah perusahaan yang berbeda. Kami menjual kepercayaan – dan kepercayaan itu sangat penting. Tanpa kepercayaan… Di situlah nilai perusahaan yang sesungguhnya. Sekarang, kepercayaan itu didukung oleh teknologi, bukan? Tapi kami menjual kepercayaan. Alasan saya mendorong hal ini, dan khususnya saya senang Anda menyebutkan kepercayaan, adalah karena para pemain teknologi besar akan membuat janji yang sama tentang privasi data Anda. Facebook akan dengan senang hati memberi tahu Anda bahwa mereka tidak menjual satu ons pun data Anda. Mereka sebenarnya tidak berkepentingan untuk menjual data tersebut karena penargetan iklan yang mereka lakukan bergantung pada data milik mereka dan bukan milik orang lain. Kita bisa membahasnya selama berhari-hari. Saya hanya ingin tahu di mana Anda melihat kepercayaan itu diungkapkan atau di mana Anda merasa kepercayaan itu paling banyak dikomunikasikan dari Proton. Karena jika Anda bertanya kepada saya, sebagai orang yang lebih teknis, saya memang melihat arsitektur “semuanya terenkripsi” dan mungkin secara matematis, tidak mungkin untuk masuk ke dalamnya. Tentu saja, kami akan mengetahui berapa banyak metadata yang dapat dibagikan kepada pihak berwenang karena masih ada perdebatan mengenai hal itu. Namun hal itulah yang paling berkesan bagi saya dibandingkan mempercayai Anda atau dewan direksi. Beberapa orang lain hanya melihat janji-janji itu dan menganggapnya begitu saja. Lalu ada beberapa regulator yang mengatakan, “Sebenarnya, kami memiliki banyak kepentingan lain untuk dapat melihat data yang ada di sini, dan kami sebenarnya tidak mempercayai Anda untuk menjadi pemain yang baik dalam ekosistem.” Jadi ketika Anda memikirkan tentang kepercayaan, apakah yang dimaksud adalah “data dienkripsi, dan itulah janji inti yang kami buat, dan segala sesuatu yang rusak akan merusak keseluruhan produk”? Atau adakah dimensi kepercayaan lain yang penting di Proton saat Anda membangun sistemnya? Jadi enkripsi end-to-end jelas penting. Ini adalah standar emas, dan itulah yang kami perjuangkan. Namun, pasti ada fitur yang… privasi, setidaknya bagi saya pribadi, adalah tentang kontrol. Ada kalanya saya menginginkan integrasi dengan layanan eksternal atau semacamnya, dan maksud saya, pilihan saya bukanlah integrasi atau melanggar enkripsi ujung ke ujung. Tujuan kami adalah membuat pengguna memiliki pilihan dan kontrol yang tepat atas siapa yang melihat data mereka. Jadi ini tidak sama dengan tidak pernah membagikan data Anda atau tidak pernah membagikan foto Anda kepada siapa pun. Namun intinya adalah, alih-alih membagikan foto Anda kepada seseorang seperti Facebook yang mungkin akan memonetisasi foto tersebut, Facebook malah membagikan foto Anda kepada nenek dan kakek, dan hanya kepada nenek dan kakek. Itu tidak berarti bahwa enkripsi adalah segalanya, tapi saya pikir kita sudah menyiapkannya… Saya tidak tahu apakah kita ingin masuk ke dalam struktur perusahaan sekarang. Namun kami telah menyiapkan rekayasa mendasar yang mendukung kepercayaan tersebut. Orang-orang seperti Anda melihat arsitekturnya dan berkata, "Oke, ini dienkripsi. Ini penting bagi saya." Lalu Anda beritahu orang lain, dan kepada orang tersebut Anda berkata, “Saya percaya Proton karena ini, ini, dan ini.” Orang lain, yang mereka tahu hanyalah, “Hei, saya kenal Nilay, saya percaya padanya, dan dia bilang Proton bagus.” Ada kelompok keseluruhan yang jauh lebih besar daripada kelompok teknisi. Kelompok teknisi adalah inti kami, tentu saja, dan sudah ada sejak awal, namun ada banyak orang yang memercayai Proton karena orang lain yang mereka kenal. Dan saat ini, maksud saya mungkin hanya orang-orang yang mereka percayai di Reddit, bukan? Namun orang lain yang mereka kenal mengatakan Proton ada di sana. Dan apa yang ingin saya katakan adalah kita telah menyiapkannya… Kita semua telah mendapatkan pelajaran nyata dalam peraturan, peraturan, undang-undang, hal-hal lain yang mungkin bernilai, tetapi pada akhirnya bernilai sesuatu jika memang demikian… Personil benar-benar penting, bukan? Siapa yang menerapkannya sangatlah penting. Jadi kita punya lapisan teknis, yang dirancang untuk membatasi apa yang bisa kita lakukan secara teknis, dan kita juga punya lapisan hukum dan struktur perusahaan, yang pada dasarnya merupakan pertahanan mendalam. Ini adalah pertahanan yang mendalam. Semua hal ini merupakan jaminan yang saling terkait bagi pengguna kami bahwa kami dapat dipercaya. Pada akhirnya, itulah hal terpenting dalam bisnis. Saya ingin datang ke struktur perusahaan. Bagaimanapun, ini adalah Decoder, tetapi hanya satu putaran lagi pada rangkaian produk itu sendiri. Anda memulai dengan ProtonMail. Anda memiliki rangkaian produk lainnya, termasuk Asisten AI. Anda berbicara tentang fakta bahwa model bisnis adalah konsumen membayar uang secara langsung untuk suatu produk. Apakah ProtonMail masih menjadi produk inti yang menghasilkan uang paling banyak? Apakah lini bisnis lainnya sedang berkembang? Bagaimana tampilannya? Jadi kami tidak mengungkapkan keuangan langsung. Mail dan VPN adalah dua produk tertua, dan seperti yang Anda duga, keduanya masih merupakan dua produk terbesar. Namun kami juga memiliki banyak orang yang membeli bundel dan membeli banyak produk. Kami mencoba membuat produk bekerja sama dengan baik dalam suatu ekosistem. Beberapa produk terikat lebih erat dibandingkan produk lainnya. Produk baru, yang lebih baru seperti Kalender, tentunya sangat terkait erat dengan Mail, namun kami juga memiliki Drive dan Pass. Itu tidak sebesar produk lama. Jika Anda mau, mereka tidak terlalu unggul dalam hal permulaan, namun mereka berkembang pesat. Jadi mereka semua berkontribusi, tapi ya, kontribusinya berbeda. Seringkali, saya tidak akan mengatakan berapa tepatnya usia mereka, tapi mereka yang memiliki runway lebih besar biasanya lebih besar, bukan? Salah satu pola perangkat lunak produktivitas konsumen adalah suite menjadi lebih besar, paket menjadi lebih besar, dan kemudian perusahaan menyadari bahwa kelas pelanggan yang benar-benar akan membayar untuk peningkatan produktivitas adalah perusahaan. Ya. Kita melihat hal ini berulang kali di ruang ini. Notion berhasil, Dropbox berhasil. Saya dapat terus membahas tentang perusahaan-perusahaan yang telah kami liput sebagai perusahaan perangkat lunak konsumen yang pada akhirnya berubah menjadi perusahaan perusahaan. Apakah Proton merasakan tekanan yang sama, bahwa Anda harus mencari lebih banyak klien korporat, klien korporat, untuk berkembang? Atau Anda masih fokus pada konsumen? Ini adalah pertanyaan yang sangat, sangat menarik. Saya pikir kami pasti merasakan tekanannya. Ada… ada apa? Saya tidak tahu apakah ini apokrif atau tidak, tapi kutipan lama John Dillinger seperti, "Mengapa saya merampok bank? Ya, di sanalah uang berada." Ada sedikit hal seperti itu di “Mengapa Anda memilih B2B?” Nah, di situlah orang-orang yang punya anggaran dan bersedia membayar untuk itu berada.  Saya pikir kami pasti mempertimbangkannya. Bahkan sebagai bisnis yang utamanya berfokus pada konsumen, kami memiliki banyak pelaku bisnis kecil, khususnya, yang menggunakan produk kami untuk tujuan bisnis. Anda cukup memanfaatkan konsumen. Dan kami juga telah merambah ke penawaran bisnis kecil dan sejenisnya.  Saya pikir ini adalah sesuatu yang mungkin dituntut oleh pertumbuhan. Dan menurut saya ada banyak bisnis yang menganggap hal-hal yang kami tawarkan – terutama kerahasiaan, hal-hal yang tidak berbasis di AS dan kedaulatan Eropa, dan hanya reputasi kami – yang sangat menarik bagi bisnis tersebut. Meski begitu, kita harus mencapai keseimbangan. Dan saat ini, bisnis kami adalah B2C. Kami tidak akan membuang bisnis B2C. Saya juga berpendapat bahwa memiliki bisnis B2C yang kuat merupakan kekuatan kompetitif. Maksud saya, seperti yang Anda katakan, ada beberapa yang telah beralih ke B2B dari B2C. Namun pada saat yang sama, menurut saya ada lebih banyak pemain B2B yang memulai B2B dan bertahan di sana. Dan salah satu hal yang kami perhatikan… Komunikasi antara bisnis dan pelanggan mereka tentu saja penting, dan kerahasiaan juga penting dalam hal ini. Anda melihat hal-hal seperti upaya WhatsApp dalam menghubungkan bisnis dengan konsumen yang memiliki WhatsApp. Saya pikir ketika saatnya tiba untuk benar-benar mendorong B2B, basis pengguna B2C dan rangkaian produk akan bermanfaat bagi kami. Salah satu ketegangan yang terjadi ketika AI menyusup ke semakin banyak bisnis adalah bahwa perusahaan-perusahaan model terdepan menginginkan setiap ons data. Saya pikir banyak perusahaan besar yang sangat enggan memberikan banyak data kepada perusahaan model terdepan. AI bekerja paling baik ketika mereka memiliki banyak data, jadi ada pilihan besar tentang seberapa banyak bisnis Anda yang akan Anda ekspos ke Claude. Seberapa banyak dari diri Anda yang akan Anda ekspos kepada Claude untuk mendapatkan nilai maksimal dari model tersebut? Proton berada tepat di tengah-tengah hal tersebut dengan arsitektur teknis yang menurut Anda akan memberikan pilihan, namun sepertinya permainan bagi banyak perusahaan ini adalah menyerahkan segalanya dan berkata, “Jalankan bisnis saya, AI.” Bagaimana Anda melihatnya bekerja dengan pelanggan perusahaan Anda saat ini? Ya. Maksudku, ini adalah keputusan yang sulit. Ini memberikan semua data sensitif mereka. Dan mereka merasa, dalam banyak kasus, mereka tidak punya pilihan. Dalam beberapa hal, itulah alasan kami mengembangkan Lumo, penawaran AI kami, yang sayangnya menurut saya mungkin tidak disertakan dalam daftar sebelumnya. Saya rasa kami baru saja meluncurkan Lumo 2.0, yang merupakan perubahan besar pada model yang kami gunakan. Dan sebagian dari itu adalah… Tujuan proyek Lumo secara umum adalah untuk memiliki sesuatu yang terintegrasi dengan produk kami lainnya dan dapat melakukannya dengan cara yang aman. Hal ini untuk mengatasi trade-off antara apakah saya akan memberikan perusahaan AI secara acak — mungkin di negara yang berbeda, mungkin memiliki masalah kepatuhan, dan sebagainya — apakah saya akan memberikan semua data bisnis sensitif saya kepada mereka, atau dapatkah saya melakukannya dengan cara yang lebih terlindungi? Saat ini, dalam banyak hal, masih ada trade-off yang harus dilakukan pihak kami, namun kami menyimpannya di dalam Proton dengan jaminan yang kami berikan. Ini seharusnya menjadi pilihan yang lebih menarik untuk jenis beban kerja tersebut, dan itulah yang kami harapkan saat kami mengembangkan Lumo. Saya pikir hal ini membawa kita pada pertanyaan Decoder tentang struktur dan organisasi karena di situlah seharusnya struktur berada, di mana kepercayaan berada, belum tentu arsitektur teknisnya. Jadi bagaimana struktur Proton saat ini? Berapa banyak orang di sana? Jadi Proton saat ini berjumlah kurang lebih 650 orang. Itu termasuk teknik, fungsi pendukung, pemasaran, dan lain-lain. Ini juga mencakup dukungan pelanggan, yang kami lakukan sendiri. Kami selalu punya. Kami adalah perusahaan bernama Proton AG, sebuah perusahaan Swiss. Namun, saham pengendali di Proton AG dipegang oleh Proton Foundation, yang diunggulkan dengan saham dari Andy, CEO kami, dan karyawan awal lainnya. Ada rekan-rekan pelancong lain yang, menurut saya, memiliki struktur yang agak mirip. Signal dan Mozilla, dan alasan kami sama. Kepemilikan saham mayoritas Proton Foundation di perusahaan Proton berarti mereka diberi wewenang untuk melindungi misi tersebut. Itu adalah yayasan Swiss. Saya bukan seorang pengacara, namun saya diberitahu bahwa sangat sulit untuk berubah. Tugasnya adalah menjaga nilai-nilai dan misi Proton. Jadi jika Proton, perusahaannya, menyimpang dari misi tersebut, Proton Foundation akan diberi wewenang untuk memperbaiki arah, jika hal tersebut masuk akal. Apakah itu pernah terjadi? Tidak. Sejauh ini, tidak. Kami memiliki pendiri dan CEO kami, Andy Yen. Andy yang mendirikan perusahaan itu, dan selama dia memegang kendali, menurut saya hal itu tidak perlu. Namun jika dia tertabrak bus, terdapat struktur perusahaan yang dirancang untuk melindungi misi ke depan dan memastikan perusahaan tidak tersesat. Karena model kepemilikan ini pula, perusahaan terisolasi dari, katakanlah, semacam pengambilalihan atau pembelian yang juga dapat mengalihkan prioritasnya. Saya pikir faktor tersebut, teknologi, dan model bisnis pada dasarnya adalah perlindungan yang saling terkait agar kita tidak mengkhianati perjanjian yang kita miliki dengan pengguna. Salah satu hal yang mengejutkan saya ketika saya berbicara dengan semakin banyak perusahaan yang telah beralih ke model fondasi semacam ini adalah bahwa struktur tersebut pada dasarnya dibuat untuk melindungi Anda dari tuntutan kapitalisme yang rakus. Anda tidak ditekan untuk menghasilkan uang sebanyak mungkin setiap kuartal untuk melakukan hal-hal yang akan mengarahkan Anda untuk menghasilkan uang sebanyak-banyaknya, dan itu berarti mungkin teknologi dapat berkembang dalam kondisi yang murni dan idealis dalam melindungi privasi daripada mengejar uang. Apakah Anda merasakan isolasi itu? Maksud saya, Anda memang harus menghasilkan uang dan membayar karyawan Anda dan berkembang dalam beberapa cara, tetapi apa dinamika Anda dalam merancang produk? Jadi jawaban singkatnya adalah tidak, dan alasannya adalah bahwa bagian dari misi kami adalah kami harus bersaing dalam kapitalisme. Pesaing utama kami adalah Big Tech. Meskipun kami jauh lebih kecil dibandingkan Big Tech, tempat pengguna kami berasal ketika kami mengonversi orang, ketika kami mendapatkan pelanggan baru, mereka [berasal dari] Big Tech secara umum. Kami harus memainkan permainan yang sama. Ini mungkin sedikit murahan, namun moto perusahaan kami adalah “Privasi secara default.” Bagian “default” itu adalah melakukan banyak pekerjaan berat. Saya sebutkan sebelumnya bahwa tujuan kami adalah merancang produk yang mudah digunakan dan aman. Ada banyak alat yang aman, dan tidak seorang pun — kecuali beberapa ahli — yang menggunakannya. Dan itu bagus. Saya tidak mengkritik keberadaan alat-alat tersebut, namun tujuan kami adalah untuk membuat alat yang dapat digunakan semua orang tanpa memahami kriptografi, bahkan tanpa mengetahui bahwa kriptografi itulah yang dapat mereka gunakan, dan mudah digunakan serta memiliki fitur yang lengkap seperti pesaing kami yang tidak terenkripsi dan pada dasarnya adalah penambangan data. Ini adalah hal yang sulit.  Saya tidak mengatakan kita sudah mencapai 100 persen, tapi itulah tujuannya. Namun kata default dalam “privasi secara default” berarti pertumbuhan. Artinya, kita harus berada pada skala di mana kita dapat menawarkan alternatif nyata terhadap Big Tech. Dan startup kecil, peningkatan skala kecil, yang 100 kali atau 10 kali lebih kecil dari Big Tech, tidak akan berhasil. Untuk melakukan itu, kita perlu bertumbuh. Jadi pertumbuhan sebenarnya adalah bagian dari misi, jika Anda mau. Hal ini berarti bahwa kita harus… kata tersebut tidak bersifat rakus, namun kita harus memiliki rasa lapar, efisien, dan berpikiran berkembang semaksimal mungkin karena hal tersebut adalah bagian dari misi untuk tumbuh cukup besar sehingga mampu menantang paradigma yang ada saat ini. Maksud saya, kita bisa membicarakan berbagai cara menghancurkan kapitalisme saat ini, tapi kita harus memainkan permainannya. Ya. Baiklah. Saya akan membuat perbandingan yang akan Anda benci. Saya hanya memberi tahu Anda. Saya tahu Anda akan membencinya. Oke. Mungkin ide paling terkenal “kami akan membangun fondasi untuk melindungi diri dari tuntutan pasar dan memastikan semuanya sehat” berasal dari OpenAI, yang pada dasarnya mematikan struktur tersebut untuk mengejar IPO, bukan? Mungkin mereka masih mempunyai ide-ide yang sangat penting dan idealis tentang bagaimana AGI harus dikembangkan. Mungkin beberapa orang di perusahaan itu benar-benar merasakan hal itu, dan itu tidak berhasil, bukan? Mereka perlu mengejar pertumbuhan dengan cara yang sangat spesifik, apa pun alasan yang mereka rasakan. Mungkin karena uang, mungkin hanya untuk memanfaatkan Google Penelusuran sesuai keinginan OpenAI; mereka harus mengubah struktur perusahaan. Itu jelas sekali terjadi. Ini seperti salah satu momen paling apokaliptik yang pernah terjadi. Benda ini meledak atau meledak dengan sendirinya. Ketika Anda melihatnya, dan kemudian Anda melihat, "Oke, kami harus berkembang. Secara default, kami harus tumbuh menjadi besar, tetapi kami membuat janji yang tidak harus dipenuhi oleh Google, atau Microsoft tidak harus memenuhinya," di mana ketegangannya? Bagaimana hal ini terlihat saat Anda merancang arsitektur produk, yang mungkin menghalangi beberapa peluang? Apa yang juga bisa menjadi moto perusahaan kami — sebenarnya tidak, tapi bisa jadi — adalah menjadi besar atau pulang ke rumah. Kami tentu saja tidak menetapkan tujuan yang sederhana dalam hal ini. Tapi menurut saya ada beberapa hal yang membuatnya berbeda. Saya telah menyebutkan banyak kendala sebelumnya, tetapi satu hal yang tidak saya sebutkan adalah kami tidak memiliki investor VC. Kami tidak memiliki investor ekuitas swasta. Kami tidak membakar uang orang lain dengan VC yang mendesak kami bahwa kami harus segera keluar, atau jika tidak, kami akan bangkrut. Kami membangun bisnis yang berkelanjutan. Kami menginvestasikan kembali keuntungan dari bisnis itu kembali ke dalam bisnis. Dan ini mengisolasi kita dari beberapa tekanan, yang saya yakin OpenAI rasakan mengingat mereka selalu membakar banyak uang, bukan? Namun demikian, personel adalah kebijakan. Saya pikir risiko ini selalu ada. Pada saat yang sama, baru-baru ini kami menemukan banyak hal bahwa terkadang peraturan, norma, atau pedoman tidak tertulis. Tidak tertulis atau tidak, hal-hal tersebut tidak sebanding dengan kertas yang digunakan untuk menulisnya. Namun di situlah peran arsitektur. Kita membuat pilihan dalam hal teknologi, dan tentu saja saya berada di sisi teknologi dalam bisnis ini, tapi kita telah membuat pilihan, dan beberapa di antaranya karena alasan persaingan bisnis, bukan? Kami ingin menjual produk yang mengatakan, "Kami tidak bisa mengakses data Anda. Kami tidak punya akses ke data. Kami tidak bisa kehilangannya. Kami tidak bisa menjualnya. Kami tidak bisa melakukan ini." Namun hal ini juga membatasi kami untuk memutuskan suatu hari nanti untuk berbalik dan menjualnya karena kami telah menguncinya di dalam kotak, dan kami tidak dapat mengaksesnya, dan oleh karena itu kami tidak dapat berbalik dan berkata, "Tahukah Anda? Maaf teman-teman, kami berubah pikiran. Kami sebenarnya akan menambang semua data ini dan pergi." Sekarang, apakah ada sesuatu yang sempurna? Tidak. Tapi maksud saya, strukturnya dirancang sedemikian rupa sehingga kita memiliki kontrol yang saling terkait, seperti yang saya katakan,. Menurut saya, hal lainnya adalah meskipun, katakanlah… Proton Foundation dilarang menjual Proton AG, sejauh yang saya ketahui, namun meskipun, karena alasan tertentu, sesuatu terjadi, nilai Proton terletak pada reputasinya. Dan kami mengatakan ini, dan itu merupakan pilihan yang disengaja. Nilai Proton terletak pada kepercayaan yang kita miliki. Jika Google membeli kami, maka tidak ada nilainya karena Google tidak memiliki kredibilitas untuk menjalankan Proton. Apakah Anda mengerti maksud saya? Itu hanyalah default dari Google yang membeli apa pun. Saya hanya ingin memperjelas hal itu. [Tertawa] Tidak, mereka mematikannya lalu hilang, bukan? Jam akan mulai berdetak hari itu. Ya. Aku tahu. Itu pernah terjadi sebelumnya, dan saya yakin itu akan terjadi lagi. Namun struktur Proton Foundation dirancang untuk mengatakan bahwa “Tidak, perusahaan tidak dapat dijual kepada pembeli.” Itulah struktur makronya. Ceritakan saja kepada saya tentang struktur yang lebih taktis di dalam perusahaan yang membangun suatu produk. Bagaimana struktur Proton itu sendiri? Apakah ada tim yang menjadikan Lumo sebagai asisten? Apakah ada tim yang membuat email? Apakah itu perpecahan? Apakah itu fungsional? Bagaimana cara kerjanya? Jadi kami mempunyai struktur divisi, struktur unit bisnis. Kami memiliki produk tertentu yang digabungkan menjadi satu, seperti surat dan kalender, sehingga keduanya digabungkan ke dalam divisi yang sama. Yang lainnya terpisah. Jadi kita punya Lumo, kita punya Drive, kita punya Pass, dan kita punya VPN. Ini adalah divisi yang terpisah. Anda membuat pilihan tentang struktur perusahaan berdasarkan komunikasi apa yang Anda inginkan paling mudah. Jadi hal ini dirancang untuk memungkinkan orang bergerak cepat dan memiliki otonomi serta mengambil keputusan dalam produk mereka. Kami juga memiliki tim lintas organisasi, tim pendukung, dan hal-hal seperti itu. Dan di sisi lain, kelemahan dari struktur unit bisnis adalah terkadang kita harus bekerja lebih keras. Ini seperti mengoreksi kucing, bukan? Di mana Anda harus memastikan bahwa, "Oke, saya sedang membangun fitur ini yang mencakup semua produk. Saya perlu memastikan bahwa semua produk sudah tersedia dan sudah ada dalam perencanaannya sehingga kami dapat mengirimkannya dengan benar." Jadi, Anda membuat keputusan tentang hal itu. Kami sengaja mengambil keputusan untuk memprioritaskan komunikasi dalam produk. Dan kemudian kami mencoba untuk mengkompensasi kekurangan tersebut dalam komunikasi lintas produk kami. Kemudian, ketika kita beralih ke hal-hal berbasis ekosistem, kita mungkin membuat pilihan berbeda mengenai struktur perusahaan untuk mendukung hal tersebut. Seluruh masalah hukum Conway. Anda mengirimkan bagan organisasi Anda, namun terkadang Anda menginginkan yang terbaik dari kedua dunia, dan di sinilah proses muncul. Ini tidak selalu seksi, tetapi Anda pasti menganggapnya sangat penting saat Anda meningkatkan skala organisasi. Anda mungkin menjadi tamu Decoder pertama yang membuat hubungan langsung antara fakta bahwa saya bertanya kepada semua orang bagaimana struktur perusahaan mereka dan Anda mengirimkan bagan organisasi Anda, itulah sebabnya saya selalu bertanya, karena itulah kebenaran mendasar. Ya, dan kami kesulitan mengatasinya sampai taraf tertentu. Kami mencoba memberikan kompensasi untuk itu. Tapi ya, Anda mengirimkan bagan organisasi Anda. Oleh karena itu, jika Anda ingin produk Anda terlihat berbeda, Anda harus menyesuaikan bagan organisasi Anda untuk mendukung perbedaan tersebut, bukan? Maksudku, pada akhirnya. Pertanyaan Decoder lainnya yang saya ajukan kepada semua orang adalah tentang keputusan. Anda harus mengambil banyak keputusan. Anda mencoba membangun arsitektur produk jenis baru dengan menghadapi banyak kendala yang sama seperti pesaing Anda. Bagaimana Anda membuat keputusan? Apa kerangka kerja Anda? Bagaimana cara saya mengambil keputusan? Kami adalah perusahaan yang dipimpin oleh pendiri. Andy memulai Proton. Menurut saya, saya adalah karyawan nomor enam, menurut saya. Itu adalah cerita yang lucu. Anda tahu bagaimana saya bertemu Andy? Bagaimana? Dia adalah mahasiswa pascasarjana saya di CERN. Saya adalah seorang postdoc di Harvard, dan dia adalah mahasiswa pascasarjana saya. Lalu dia datang dan menemui saya di Silicon Valley setelah saya meninggalkan fisika dan berkata, "Hei, Anda ingin bergabung dengan startup saya? Anda bisa menjadi CTO." Bagaimanapun, dan inilah kita 11 tahun kemudian.  Tapi dia masih banyak terlibat. Dia mempunyai banyak masukan mengenai strategi pengarahan produk, dan dia seorang visioner. Saya pikir dia bertanggung jawab atas kesuksesan Proton. Dia bersedia mengambil risiko, hal-hal semacam itu. Saya jelas percaya pada kepemimpinannya, atau saya tidak akan tetap berada di sini setelah 11 tahun. Oleh karena itu, menurut saya satu hal yang terkadang terjadi pada kaum visioner adalah mereka perlu mengelilingi diri mereka dengan orang-orang yang akan menantang mereka ketika mereka mungkin sudah terlalu jauh bermain ski, atau juga memastikan bahwa kita mempunyai ide dari tempat lain. Satu hal yang benar-benar kami coba pastikan adalah bahwa ide-ide dinilai berdasarkan manfaatnya, bukan berdasarkan asal usulnya. Jadi kami memiliki tim kepemimpinan senior yang tugasnya adalah, ya, melaksanakan tetapi juga membawa ide-ide baru dan menjualnya dan hal-hal seperti ini. Saya tidak akan mengatakan bahwa kami sempurna dalam hal ini karena tidak ada orang yang sempurna, dan kami memiliki banyak hal yang dapat kami tingkatkan, namun kami mencoba untuk mendorong pengambilan keputusan ke tingkat organisasi. Inti dari sebuah organisasi adalah Anda memiliki cara untuk menyelaraskan banyak orang berbeda ke arah yang sama. Triknya selalu: bagaimana Anda mendapatkan keselarasan dalam arah umum yang sama sambil tetap memiliki otonomi sehingga Anda tidak mengatur segalanya secara mikro? Dan saya tidak mengatakan kita selalu mendapatkan keseimbangan yang tepat, tapi itulah tujuannya. Saat kami melakukan orientasi semacam ini saat merekrut orang baru ke Proton, salah satu hal yang selalu kami katakan adalah: Saya ingin mendengar… Anda belum terbiasa dengan cara kami melakukan sesuatu. Jadi saya ingin Anda melihat cara kami melakukan sesuatu, dan jika Anda pernah bekerja di perusahaan lain atau menurut Anda ini gila atau tidak efisien, saya ingin Anda memberi tahu kami. Dan kami sangat jelas, ya, tentu saja kami memiliki hierarki, dan salah satu bagiannya adalah ukuran kami, namun kami sangat jarang memiliki lebih dari, katakanlah, tiga atau empat tingkat manajemen. Kami selalu berkata, “Begini, jika Anda perlu menghubungi saya, Anda perlu menghubungi CEO, Anda perlu berbicara langsung dengan orang lain, lakukan saja.” Itu adalah hal lain, dan sekali lagi, saya berbicara sendiri, namun menurut saya hal ini umum terjadi di Proton: Saya memberi tahu orang-orang, “Saya tidak berjanji atau berkewajiban untuk setuju dengan Anda, tetapi Anda tidak akan pernah menyesal memberi tahu saya apa yang Anda pikirkan,” pada dasarnya. Jadi kami mencoba melakukan itu. Dan saya memuji Andy atas hal ini, namun politik internal kita sangat sedikit. Mungkin ini hanya karena kita belum terlalu besar, tapi kita sama sekali tidak menoleransi wilayah kekuasaan atau politik internal, dan itu juga membuat segalanya lebih mudah. Ada perasaan bahwa kita semua mengarah ke arah yang sama, dan bukan divisi saya yang ingin saya kembangkan, melainkan Proton secara umum. Menurut saya, sebagian dari hal tersebut bisa dicapai karena perusahaan yang digerakkan oleh misi. Saya tidak tahu apakah Anda pernah mengalami hal ini, tetapi bagi Anda yang belum, saya pernah mengalami keduanya. Saya pernah menjadi fisikawan sebagai bagian dari kolaborasi CERN sejak lama, dan di sana Anda mengetahui sifat dasar alam semesta. Saya menganggap itu sebagai pekerjaan yang didorong oleh misi. Saya juga pernah bertugas di Silicon Valley setelahnya, yang mengalami masalah teknis yang menyenangkan dan menarik, namun saya melewatkannya. Dan dengan Proton, misinya sungguh… Kita harus berhati-hati agar tidak menutupi masalah organisasi yang sebenarnya harus kita selesaikan, anggap saja seperti itu. Namun hal ini akan membuat pekerjaan menjadi lebih mudah jika semua orang selaras dalam hal tersebut. Izinkan saya mengajukan pertanyaan tentang hal itu, dan kemudian saya ingin membahas tekanan yang dirasakan Proton dan bagaimana Anda menerapkan semua struktur ini untuk melawan tekanan tersebut. Pada awal karir saya, saya tidak tahu bagaimana mengelola siapa pun. Saya mendatangi sekelompok orang dan menanyakan banyak pertanyaan kepada mereka. Salah satu mentor paling cerdas dalam hal ini mengajak saya dan berkata dengan sangat serius, "Dengar, Anda tidak mempekerjakan orang untuk membuat mereka menyukai Anda. Anda mempekerjakan orang untuk mengubah organisasi Anda." Saya sudah mengingatnya, dan mungkin setelah 15 tahun, saya berpikir, "Itu sebenarnya sebuah pendulum. Anda memerlukan orang-orang yang mau menerima apa yang Anda lakukan. Jika tidak, setiap orang baru yang Anda pekerjakan akan sangat mengganggu apa yang dilakukan orang lain karena mereka mungkin terlalu berdaya dan tidak sependapat." Proton punya misi, bukan? Anda menggambarkannya sebagai perusahaan yang digerakkan oleh misi. Bagaimana Anda mencapai keseimbangan antara keinginan untuk merekrut orang baru dan mendapatkan perspektif luar tentang kesalahan yang Anda lakukan dan kemudian tidak benar-benar keluar jalur? Karena sepertinya hal itu sangat penting dalam perusahaan seperti Proton. Maksud saya, budaya itu sangat penting. Ini sangat penting. Itu juga berasal dari atas. Andy, jika Anda bertanya kepadanya apa hal terpenting dalam bisnis apa pun, kemungkinan besar dia akan menjawab budaya. Oleh karena itu, kami berusaha sangat berhati-hati dalam memilih siapa yang kami pekerjakan. Kami merekrut secara relatif lambat. Saya berharap kami dapat merekrut lebih cepat. Saya pikir perekrutan adalah salah satu hal yang bisa kita lakukan dengan lebih baik, tapi kita tidak melakukan perekrutan besar-besaran, PHK besar-besaran, hal-hal seperti ini karena… Dan kita tidak merekrut karyawan terlalu cepat sehingga melemahkan budaya. Kami ingin mengintegrasikan masyarakat ke dalam budaya Proton, belum tentu… Dan ya, terkadang kami harus mengubahnya, terkadang kami harus mengembangkannya, namun kami ingin hal itu dilakukan dengan cara yang disengaja. Saya mungkin juga mengalami evolusi serupa sebagai seorang manajer. Saya telah berada di sana melalui semua fase pertumbuhan Proton. Sejak awal, saya menulis banyak kode, dan kemudian saya menjadi pemimpin tim secara efektif. Kemudian saya adalah seorang manajer dari para manajer. Pada titik tertentu, saya menjalankan semua teknik Proton. Kemudian saya menyerahkan beberapa hal manajemen, tetapi tetap mempertahankan arahan teknis CTO. Dalam kursus itu, saya pasti banyak melakukan kesalahan juga bukan? Sejak awal, saya harus mengajari diri saya sendiri untuk tidak membuat orang lain menyukai saya, tidak melakukan, mungkin tidak melakukan pengelolaan mikro, tetapi tidak hanya memberi tahu orang lain apa yang harus dilakukan dan meminta mereka melaksanakannya. Dan kemudian saya melewati fase di mana saya menyadari bahwa, oke, orang perlu belajar, orang perlu membuat kesalahannya sendiri. Saya ingin mengimpor orang-orang dengan keahlian; Saya tidak sempurna. Ayo lakukan ini. Mungkin itu terlalu permisif. Kami melakukan beberapa… tidak ada bencana besar, tetapi kami memiliki beberapa kesalahan mahal yang membuat saya merasa tidak enak, tetapi saya tetap membiarkannya. Karena saya sedang mencoba melakukan ini.  Itu yang terburuk. Jadi menurut saya moderasi bukanlah hal yang paling seksi untuk dijual, tetapi memang demikian. Ini adalah keseimbangan. Anda tidak ingin mewajibkan bagaimana segala sesuatunya dilakukan, namun Anda juga ingin memastikan bahwa Anda ada di sana untuk menghentikan orang-orang membuat keputusan yang benar-benar membawa bencana atau mahal. Anda dapat melihat tembok bata di kejauhan, dan Anda ingin memastikan hal itu tidak terjadi. Ya, ini bukan jawaban yang paling dramatis, tetapi sebagian besar dari jawaban ini adalah menemukan keseimbangan yang tepat, tidak berlebihan. Alasan saya menghabiskan begitu banyak waktu di sisi teknis dan struktur perusahaan, serta budayanya, adalah karena Proton menghadapi banyak tekanan. Dan semua ini, seperti yang telah Anda jelaskan, dirancang untuk melawan tekanan tersebut dan dirancang untuk menghasilkan produk yang tidak dapat dipatahkan oleh tekanan tersebut dengan cara yang berbeda. Mari kita mulai dengan, entahlah, pemerintah di seluruh dunia, yang memberikan banyak tekanan pada Proton, dan telah menemukan banyak sekali cara untuk melewati jenis kontrol yang Anda terapkan untuk melindungi data pengguna. Jadi kita akan mulai dengan yang paling heboh. Pada bulan Maret, laporan dari 404Media menemukan bahwa Proton menyerahkan data pembayaran sebuah akun bernama Stop Cop City, yang berlokasi di Amerika Serikat. Mereka menyerahkan data tersebut kepada pihak berwenang Swiss, yang kemudian memberikan data tersebut kepada FBI, dan hal itu mengarah pada identifikasi mereka. Dan ini adalah metadata; Saya kira itu bukan datanya, isi emailnya. Argumen Proton adalah, "Dengar, kami tidak pernah benar-benar memberikan apa pun kepada FBI. Kami hanya memenuhi permintaan hukum dari pemerintah Swiss." Mari kita mulai dari hal yang paling mendasar. Apa yang secara hukum boleh diminta oleh pemerintah Swiss dari Anda? Dan apakah fakta bahwa mereka hanya bisa bertindak sebagai wakil pemerintah Amerika Serikat melemahkan kepercayaan ini atau memberikan tekanan baru pada struktur Anda? Jadi perusahaan mana pun di mana pun akan memiliki yurisdiksi dan tunduk pada yurisdiksi. Tidak ada perusahaan atau individu yang kebal hukum. Dan tidak ada perusahaan yang akan masuk penjara karena Anda. Meskipun demikian, Anda dapat mengatur struktur sedemikian rupa sehingga terdapat perlindungan di sini. Dan perlindungan kami, misalnya, adalah bahwa kami adalah perusahaan Swiss. Dan kami sebenarnya telah berulang kali ditanya, “Hei, bisakah Anda menanggapi permintaan dari lembaga pemerintah yang bersahabat?” Kami telah berulang kali mengatakan tidak karena tugas kami bukanlah memutuskan mana yang sah dan mana yang tidak. Itu bukanlah sesuatu yang bisa kita ambil. Jadi yang kami lakukan adalah merekayasa produk kami agar memiliki, dalam batasan, seperti membuat produk yang ingin digunakan dan dapat digunakan serta berfungsi oleh orang-orang, namun kami merekayasa produk kami agar menjadi seprivasi mungkin.  Kami tunduk pada yurisdiksi Swiss. Permintaan Perjanjian Bantuan Hukum Timbal Balik, permintaan MLAT, datang dari pemerintah. Pihak berwenang Swiss memutuskan apa yang sah dan apa yang tidak. Kami tidak punya kepentingan dalam hal itu. Dan kemudian mereka mengeluarkan perintah, kami mematuhi perintah tersebut, dan itulah yang seharusnya terjadi. Kami dengan sengaja memilih yurisdiksi kami sedemikian rupa sehingga Swiss terkenal netral. Setiap pemerintahan terdiri dari manusia, tetapi mereka mempunyai reputasi sebagai orang-orang yang berakal sehat, dan sistem tersebut telah berjalan dengan cukup baik. Secara umum, ada negara-negara yang kurang dapat dipercaya dibandingkan negara-negara lain, dan permintaan-permintaan tersebut… Kami tidak memiliki banyak kejelasan mengenai dari mana permintaan tersebut berasal, namun permintaan-permintaan yang kami ajukan pada otoritas yang baik biasanya tidak dipenuhi. Meskipun pendapat masyarakat mungkin berbeda-beda saat ini, permintaan FBI, mereka cenderung diberi anggapan legitimasi tertentu, namun pendapat tersebut masih dievaluasi oleh otoritas Swiss. Lalu yang kami lakukan adalah mematuhinya. Kami tidak punya keleluasaan di sini. Dan hal ini berlaku untuk semua hal, namun kami telah mengatur sistemnya sedemikian rupa sehingga menurut kami ini adalah salah satu sistem teraman yang dapat dibangun dan tetap legal. Jadi izinkan saya menanyakan hal itu kepada Anda, karena Anda adalah orang yang bersistem; Anda sedang mendeskripsikan suatu sistem. Ya. Titik kegagalan dalam sistem tersebut, seperti yang Anda jelaskan kepada saya, adalah bahwa pemerintah Swiss akan membuat banyak keputusan tentang apa yang harus Anda patuhi. Pemerintah Amerika Serikat, khususnya dalam hal ini, menurut saya, telah menyadari bahwa jika mereka hanya mengatakan bahwa segala sesuatunya adalah terorisme, maka mekanisme pembagian data akan terbuka lebar. Jadi dalam hal ini, ini adalah akun bernama “Stop Cop City. " Mereka bilang ini terorisme. Di sini, di Amerika, sah atau tidaknya klaim pemerintah bahwa segala sesuatunya adalah terorisme, menurut saya, masih bisa diperdebatkan. Tentu. Namun sepertinya mereka menemukan apa yang Anda gambarkan sebagai vektor serangan terhadap mekanisme pemerintah Swiss, di mana jika Anda mengucapkan kata-kata ajaib ini, pemerintah Swiss akan mendatangi Anda dan mulai meminta metadata. Apakah itu dirasa pantas? Apakah itu terasa bisa bertahan? Saya pikir banyak dari hal ini, pada suatu saat, akan bergantung pada orang-orang. Kami telah melakukan yang terbaik yang kami bisa, dan menurut saya… Masyarakat akan mempunyai pendapat berbeda mengenai permintaan mana yang sah atau tidak, namun kami telah melakukan yang terbaik dengan mengatakan, “Baiklah, pihak berwenang Swiss akan memutuskan, dan kemudian kami akan mematuhi apa pun yang mereka katakan karena kami adalah yurisdiksi Swiss.” Sementara itu, kami melakukan dan dapat mengaturnya – dan, tentu saja, ada undang-undang yang mengatur hal ini – namun kami melakukan apa pun yang kami bisa untuk meminimalkan jumlah data yang dapat kami berikan. Maksudku, dengan data pembayaran, kita bisa mengenkripsinya. Kami menggunakan pemroses pembayaran. Mereka bisa mendapatkannya dari banyak sumber berbeda. Jadi jika Anda memiliki kartu kredit dan ada permintaan hukum yang masuk, tidak banyak yang bisa kita lakukan, bukan? Anda menyebutkan sistem… karena menurut saya ini penting. Apa yang penting bagi saya, dan saya menyadari hal ini… Saya tidak ingin hal ini terdengar tidak berperasaan untuk kasus pelecehan hipotetis tertentu yang mungkin tidak terjadi… Tentu saja, kesalahan bisa saja terjadi. Tapi saya ingin sistem seperti sistem yang kita miliki, yaitu jika pemerintah memiliki alasan yang masuk akal dan dapat meyakinkan masyarakat dalam proses yang ditentukan untuk memberikan data, maka ya, data tersebut mungkin harus diberikan. Yang benar-benar saya khawatirkan adalah kita sering hidup di dunia di mana pada dasarnya pemerintah malah bertanya, “Berikan semua data Anda, dan saya akan mencari masalahnya. Saya akan mencari kejahatan.” Kata penyadapan berasal dari saat mereka harus pergi ke rumah Anda dan menyadap kabel. Saya tidak berpikir hal itu benar-benar terpikirkan pada saat itu, tetapi hal itu - tindakan fisik yang sebenarnya karena harus melakukan hal ini - memiliki penghalang pada kenyataan bahwa Anda tidak dapat mengawasi semua orang sekaligus. Secara logistik, hal itu mustahil dilakukan. Kita hidup di dunia saat ini di mana Anda dapat mengawasi semua orang, jadi kami ingin membangun layanan dan sistem di mana hal ini tidak mungkin dilakukan, bukan? Dimana defaultnya adalah privasi, seperti yang saya katakan, privasi secara default.  Ya, kami juga responsif terhadap permintaan penegakan hukum yang sah, bagaimanapun Anda mendefinisikannya sebagai sah. Dan pertanyaan yang wajar itu akan selalu merupakan persoalan proses, di mana kita tentu saja hanya salah satu pemain dalam proses ini. Tapi menurutku itulah- Ya, ada legitimasi, dan ada dinamika pasar di sini. Jadi pemerintah Swiss telah memberikan banyak tekanan terhadap Proton dalam beberapa tahun terakhir. Mereka pada dasarnya ingin Anda memiliki VPN yang tidak terenkripsi dan dapat mendekripsi data pengguna yang dikirimkan melalui VPN. Saya yakin Proton mengancam akan meninggalkan Swiss karena hal ini, dan kemudian Anda mengumumkan bahwa Anda akan membangun infrastruktur yang lebih terdistribusi dan menempatkan sebagian infrastruktur tersebut di Jerman dan Norwegia. Kami akan datang ke Kontrol Obrolan. Kemarin, saya pikir UE meloloskan versi undang-undang ini, dan tanggapan Proton adalah, “Kami akan meninggalkan UE saja. Kami akan keluar dari yurisdiksi hukum ini.” Saya ingin membicarakan hal itu secara mendetail, tetapi dalam konteks yang lebih luas seperti yang Anda bicarakan saat ini, Anda memilih, bukan? Anda sedang memilih sebuah yayasan, dan sering kali tanggapannya adalah, “Baiklah, jika Anda mengubah dasar hukum di sini, kami akan keluar.” Ya. Seberapa nyatakah itu? Ini sangat serius. Dengan segala hormat kepada pihak berwenang Swiss dan semua orang, saya pikir tindakan bunuh diri ini merupakan sebuah tindakan bunuh diri. Maksud saya, bagian dari merek Swiss adalah privasi. Hal ini telah terjadi selama 80 tahun, dan mereka mendapatkan keuntungan, sebagian besar melalui Proton, namun juga, mereka memiliki alasan yang baik untuk membawa reputasi tersebut dan keuntungan ekonomi tersebut — karena ada banyak bisnis, banyak perdagangan, yang memerlukan kerahasiaan — ke abad ke-21, ke era digital. Dan membuangnya, menurut saya, adalah tindakan yang picik. Tapi tidak, ini adalah ancaman serius. Yang menarik dari layanan digital adalah bisa dipindahkan. Ada banyak fleksibilitas dalam hal ini. Maksudku, jika kita benar-benar distopia, mungkin ada dunia di mana tidak ada tempat untuk pindah, tapi saat ini ada pilihan. Ini tentu saja juga… Ini adalah sebuah ancaman. Maksud saya, ini adalah ancaman nyata. Kami berharap tidak perlu melakukannya. Kami berharap negara-negara yang ada tanggap terhadap hal ini dan mengubah arah, tapi ya. Itu biayanya, bukan? Saya ingin tahu tentang ini- Itu adalah biaya. Ya, itu adalah biaya. Kami harus melakukannya, namun biayanya mungkin tidak sebesar yang Anda bayangkan. Kami sudah memiliki karyawan di berbagai negara. Kami memiliki kantor satelit, dan kami memiliki hal-hal lain. Kami memiliki pusat data di Jerman. Kami memiliki pusat data di Norwegia. Jangan terlalu bosan dengan hal ini, tapi kita bisa melakukan inversi korporasi ke tempat lain dan kemudian berkata, “Oke, semua permintaan hukum harus diajukan ke sini.” Dan semua data ada di- Bagaimana hal itu berlaku dengan “Anda tidak bisa menjualnya”? Bagian di mana Anda merasa, "Ini adalah yayasan Swiss. Sangat sulit untuk menjualnya." Anda ingin meninggalkan Swiss dan bergabung kembali di Jerman. Apakah pemerintah Swiss akan menghentikan Anda? Saya harus menundanya karena saya bukan pengacara. Saya tidak tahu, tapi saya yakin itu mungkin. Saya hanya penasaran karena rasanya, setidaknya sampai pembicaraan ini, NATO masih ada. Jerman dan Norwegia masih menjadi anggota UE. Ada hukum Swiss, ada hukum Jerman, lalu ada hukum Uni Eropa. Dan undang-undang UE juga semakin ketat mengenai apa yang dapat mereka pindai dan apa yang tidak dapat mereka pindai. Saya menyebutkan Kontrol Obrolan sebelumnya. Ini adalah undang-undang di UE yang mengharuskan penyedia layanan memindai konten pesan untuk mencari materi CSAM dan jenis materi yang melanggar lainnya. Itu adalah masalah besar. Saya pikir Proton berkata, "Kami akan meninggalkan UE jika Anda memaksa kami melakukan ini. Ini akan melanggar janji inti kami." Ya. Jika Anda pindah ke Jerman dan Norwegia, lalu UE menerapkan versi Kontrol Obrolan yang paling ketat, apakah Anda siap untuk keluar dari sana? Ya. Seberapa siapkah kamu? Bisakah Anda menarik tombolnya besok? Kemana Anda akan pergi? Saya tidak tahu, saya harus berkonsultasi dengan orang lain untuk itu. Saya tidak terlalu mendalami hal itu, tapi ini adalah ancaman nyata. Saya tahu ini adalah ancaman nyata. Saya tahu kami telah membuat beberapa persiapan tentang di mana kami bisa melakukan hal ini jika UE dan Swiss tidak ramah terhadap hal ini. Ada hal-hal yang terpisah. Ada tantangan praktis yang kita semua tahu bahwa hal ini sedang terjadi. Ada gelombang, baik itu verifikasi usia atau pembobolan enkripsi atau hal-hal seperti ini, yang sepertinya sedang populer saat ini, dan ini adalah sesuatu yang sedang kita perjuangkan dalam bidang kebijakan. Menurut saya, itu sangat salah kaprah. Mudah-mudahan suatu saat nanti demamnya akan reda. Anda tidak dapat mencap pintu belakang dengan bendera Amerika dan mengatakan bahwa hanya orang baik yang dapat menggunakannya. Tidak seperti itu, atau bendera UE atau semacamnya. Mungkin ini akan kembali sedikit. Jadi itulah bagian praktisnya. Apa yang kita lakukan jika ini terjadi? Apa yang kita lakukan jika ini terjadi? Pada akhirnya, pemerintah memegang kekuasaan besar atas kebijakan, dan Anda harus memikirkan bagaimana Anda bisa mematuhinya, atau jika Anda tidak bisa mematuhinya, Anda akan keluar dari kebijakan tersebut, atau melakukan hal lain. Namun ada banyak negara di dunia, dan saya pikir pada akhirnya kita akan melakukan apa yang harus kita lakukan. Bagian lainnya — menurut saya, menggunakan platform Anda sedikit untuk membuktikan hal ini — adalah Kontrol Obrolan, verifikasi usia, dan semua hal ini, adalah ide yang sangat buruk. Saya tidak ingin mengatakan… Ada ancaman nyata terhadap anak-anak di dunia maya, dan bukan berarti kita tidak boleh menganggapnya serius, namun ada cara untuk melakukan hal ini. Kita telah berbicara tentang pemikiran sistem sebelumnya dan desain sistem. Ada beberapa cara untuk melakukan hal ini dengan menyeimbangkan kekhawatiran yang ada, yang dapat menghalangi materi dewasa di balik gerbang usia yang tidak mengungkapkan siapa Anda. Setelah Anda membangun sistem yang pada dasarnya menghapuskan anonimitas online, berapa lama lagi sistem itu… Maksud saya, itu adalah senjata Chekhov. Berapa lama sebelum seseorang datang untuk menggunakannya? Jika sudah dibangun, pada akhirnya seseorang akan menggunakannya untuk tujuan yang tidak dirancang untuknya. Berapa lama sampai Tiongkok berkata, “Hei, kenali saya semua pembangkang yang menggunakan ini”? Karena mereka harus menggunakan ID mereka untuk semua yang ada di internet. Jadi kami ingin membangun sistem, sistem internet, yang tidak bisa dikomandoi seperti ini. Beginilah cara kami membangun Proton, tapi menurut saya prinsip ini berlaku untuk internet yang lebih besar.  Ini semacam eksperimen pemikiran, bukan? Saya mungkin akan mengabaikan hal ini, tetapi ada statistik gila yang menunjukkan bahwa sebagian besar warga Jerman Timur dipekerjakan sebagai informan oleh Stasi terhadap warga Jerman Timur lainnya pada puncak Perang Dingin. Dan Tirai Besi, tentu saja, sudah runtuh tepat sebelum dimulainya era digital, dalam beberapa hal, era internet. Saya pikir Anda bisa berargumen – dan saya pikir Anda bisa melihat contoh tandingan seperti Tiongkok – bahwa jika beberapa rezim otoriter Blok Timur berhasil memasuki era digital, mungkin mereka akan memiliki kendali yang cukup atas informasi agar tidak jatuh lagi karena hal ini jauh lebih mudah dilakukan. Jadi fakta bahwa Facebook dan Google, bisa dibilang dengan ekosistem iklan mereka, telah membangun sistem pengawasan yang paling canggih — oke, mungkin milik Tiongkok — tapi beberapa sistem pengawasan tercanggih yang pernah dibuat, namun kami melakukan hal paling Amerika yang pernah ada dengannya, yaitu kami menggunakannya untuk menjual barang-barang yang tidak Anda perlukan. Namun bukan berarti hanya itu yang bisa digunakan, dan fakta bahwa mereka duduk di rak perapian seperti pistol Chekhov, menunggu seseorang untuk mengambilnya dan melakukan sesuatu yang benar-benar mengerikan terhadap mereka, merupakan ancaman bagi masyarakat bebas. Semua hal lain dengan Kontrol Obrolan dan verifikasi usia adalah hal yang sama. Pernyataan tersebut berbunyi, "Kita mengalami kerugian ini. Mari kita bangun sebuah sistem untuk mencegah kerugian ini yang kemudian dapat digunakan untuk tujuan yang sangat jahat." Kita perlu memastikan bahwa kita tidak merekayasa sistem yang mengancam keberadaan masyarakat bebas. Maaf, itu adalah pidato kotak sabun saya, tapi itu adalah sesuatu yang sangat saya pedulikan. Alasan saya bertanya banyak tentang struktur perusahaan dan budayanya serta bagaimana sistem dibangun adalah karena idealisme sering kali diungkapkan di Silicon Valley. Saya telah mendengarnya dari semua perusahaan besar yang Anda jelaskan. Saya mendengarnya dari perusahaan-perusahaan besar saat ini, dan kemudian kompromi mulai terjadi. Dan terkadang komprominya adalah, "Ya, kami berdomisili di Amerika Serikat. Kami hanya harus mendengarkan. Tidak ada yang bisa kami lakukan. Anda dapat melihat halaman surat perintah kami untuk melihat berapa banyak permintaan hukum yang kami terima, dan itulah jawabannya." Terkadang komprominya adalah, "Kita harus berkembang. Kita harus menjadi lebih besar, dan itu saja." Dan terkadang komprominya adalah “tidak ada cara untuk membangun sistem yang dapat melindungi masyarakat seperti yang kita inginkan, dan mematuhi rezim hukum.” Saya pikir enkripsi adalah inti dari ketegangan tersebut. Saya akan memberikan contoh Apple karena menurut saya semua orang sudah familiar dengan Apple. Apple secara rutin menolak seruan untuk melakukan pintu belakang. [Perusahaan] cukup besar untuk melakukannya dengan cara yang bisa mereka lakukan, dan kemudian iPhone tetap tidak mendapat manfaat apa pun. Tidak masalah. Siklus itu berulang dengan cara yang berulang. Namun jika Anda berbicara dengan orang-orang di Apple, mereka berkata, "Lihat, regulator mendatangi kami, dan mereka berkata, 'Jadilah cerdas. Lakukan saja hal-hal yang cerdas, teman-teman yang cerdas, dan temukan cara untuk melakukan pintu belakang yang akan menjaga privasi.'" Dan tanggapan Apple adalah, "Anda tidak bisa." Itu tidak mungkin. Kami tidak bisa cukup keras untuk menyelesaikan masalah ini untuk Anda. Saya pikir ada ketidaktahuan yang disengaja di pihak regulator; Saya pikir regulator mengetahui hal ini. Dan menurut saya ada banyak sekali aktivis yang ingin melindungi anak-anak. Mungkin mereka memahaminya, mungkin mereka tidak memahaminya, tapi yang mereka pahami secara mendalam adalah anak-anak sedang dirugikan, bukan?  Semua sistem lain yang diklaim semua orang dapat memperbaiki masalah atau memitigasi risiko enkripsi sebenarnya tidak ada, sehingga anak-anak tidak dirugikan seperti yang mereka alami saat ini. Anda duduk di tengah-tengah ini. Pemerintah di seluruh dunia mendatangi Anda. Mereka meminta Anda untuk melakukan pintu belakang. Mereka meminta Anda untuk memindai pesan obrolan di sisi klien untuk mendeteksi CSAM. Apa tanggapan Anda untuk menjadi pintar? Hanya menjadi lebih keras dan mencari tahu? Maksudku, tidak mungkin membuat pintu belakang yang hanya bisa digunakan oleh orang baik. Dan konsekuensi dari penggunaan pintu belakang oleh orang jahat pada dasarnya adalah bencana besar, bukan? Saya pikir Anda menyebutkan bahwa masih ada kerugian yang dilakukan dengan tingkat seperti ini dan itu akan menjadi- Seperti dalam skala besar. Saya pikir penting untuk mengatakannya dengan jelas. Kerusakan ini terjadi dalam skala besar. Maksud saya, kekhawatiran tersebut wajar, bukan? Tapi kami mentolerir banyak kerugian. Kami mentolerir menelan hal-hal yang tidak baik bagi Anda jika Anda sudah dewasa, bukan? Dan ini mungkin berpusat pada AS, tapi ada beberapa… Maksud saya, saya tidak tahu apakah ini masih menjadi preseden mengenai keadaan yang terjadi, tapi ada beberapa preseden pengadilan yang pada dasarnya mengatakan bahwa… Saya pikir ini sebenarnya ada hubungannya dengan pemindaian atau lainnya; mereka mengatakan, “Oke, hal ini harus sejalan dan seimbang dengan pembatasan kebebasan orang dewasa, agar pada dasarnya menjadi sangat, sangat aman.” Anda dapat membuat masyarakat menjadi sangat, sangat, sangat aman dengan merampas semua kebebasan apa pun. Anda bisa melakukan itu. Dan ini adalah trade-off dari apa yang ingin kita lakukan, namun menurut saya masyarakat belum sepenuhnya memahami fakta bahwa terlalu banyak keamanan mungkin merupakan dunia yang tidak mereka inginkan. Saya pikir Ben Franklin-lah yang, sekali lagi, tidak menjadi terlalu Amerika, namun orang-orang yang menukar kebebasan demi keamanan tidak berhak mendapatkan keduanya. Saya memparafrasekan. Saya orang Amerika. Saya tinggal di Eropa sekarang, tetapi saya awalnya orang Amerika. Ada banyak orang yang benar-benar menabuh genderang kebebasan di AS, namun pada dasarnya bersedia memberikan seluruh privasi mereka.  Menurut saya privasi dan kebebasan merupakan dua hal yang tidak dapat dipisahkan. Anda tidak bisa bebas tanpa privasi. Jadi menurut saya ada trade-off yang harus dilakukan di sini, dan kita bisa mendiskusikan apa trade-off tersebut, namun trade-off tersebut tidak boleh membuat seluruh sistem menjadi transparan bagi siapa pun yang ingin melihatnya. Karena ada beberapa orang jahat yang ingin melihat. Dan bahkan jika Anda berpikir bahwa pemerintah tidak akan pernah menjadi orang jahat, yang terlihat naif, namun meskipun Anda berpikir demikian, ada banyak jenis penjahat dunia maya di mana pun. Pintu belakang atau kerentanan tersebut — menurut saya kerentanan lebih mudah daripada pintu belakang — namun kerentanan yang ditemukan atau diperkenalkan dalam kriptografi memiliki sejarah panjang yang dieksploitasi oleh pelaku kejahatan. Sejarahnya jelas. Tidak mungkin ada pintu belakang yang tidak bisa dieksploitasi kecuali oleh orang yang memang dituju. Jadi menurut saya ada cara lain untuk melakukan ini, menurut saya kita perlu- Bisakah Anda menjelaskan cara-cara lain tersebut? Saya pikir mungkin ini hilang dari percakapan. Jika ada solusi teknis lain untuk mengurangi dampak buruknya, seperti apa solusinya? Banyak yang akan membahas tentang bagaimana melakukan sesuatu. Teruskan. Untuk itulah pertunjukan ini diadakan. Tentu. Misalnya, ada bukti tanpa pengetahuan, yang pada dasarnya melibatkan kemampuan untuk membuktikan bahwa saya berusia di atas 18 tahun tanpa benar-benar memberi Anda informasi lain tentang hal itu. Sebenarnya ada beberapa cara untuk melakukan hal tersebut, beberapa di antaranya tidak melibatkan bukti tanpa pengetahuan, namun cara ini jauh dari… Discord, yang mendapat masalah, saya lupa, satu atau dua bulan yang lalu karena mengalami pelanggaran keamanan di mana mereka melakukan verifikasi usia dan kemudian mereka melakukan — saya lupa apa itu — semacam keranjang S3 [AWS] terbuka atau sesuatu dengan banyak ID orang dan sebagainya. Ini bukanlah cara yang tepat untuk melakukannya. Tapi saya jamin orang akan melakukan kesalahan ini. Jika setiap situs web harus mengumpulkan ID Anda, kami berada dalam [masalah] yang besar. Jadi, ada cara agar penerbit memiliki, misalnya, orang tepercaya yang memberikan Anda ID. Ini bisa berupa kredensial lokal. Ini bisa menjadi kredensial. Ini juga bisa berupa kredensial yang disimpan di cloud, tetapi dengan cara terenkripsi sehingga server tidak dapat melihat kredensial tersebut dan kemudian meminta perangkat Anda secara selektif mengungkapkan, katakanlah, bahwa usianya di atas 18 tahun, jika situs yang Anda kunjungi mengharuskannya. Tidak harus, “Ini alamatmu, ini namamu, ini apa saja.” Bisa jadi, oh ya, orang ini memiliki pernyataan tertulis yang ditandatangani secara kriptografis yang menyatakan usia di atas 18 tahun, izinkan mereka masuk. Itu adalah solusi teknis terhadap tuntutan regulasi, bukan? Menurut Anda, apakah solusi teknisnya harus dituangkan dalam peraturan, atau apakah harus ada aturan “begini cara melakukannya dengan benar”? Atau apakah menurut Anda industri ini harus bersatu dan berkata, “Kita akan melakukan pembuktian tanpa pengetahuan”? Tidak, menurut saya akan sangat membantu jika industri ini bersatu. Ada inisiatif ID UE, yang sebenarnya cukup bagus. Bukan ilmu yang nol, tapi cukup bagus. Ada beberapa masalah dengan kredensial semacam ini. Jelas sekali, kredensial digital dapat disalin, jadi Anda ingin memastikan bahwa kredensial tersebut tidak disalin dan diposting di internet dan digunakan oleh jutaan orang. Jadi ada beberapa trade-off anti-penyalahgunaan, bukan? Anda tidak ingin identitas seorang pria dari suatu negara digunakan oleh setiap remaja di AS. Saya akan menjadi remaja itu, hanya untuk memperjelas 100 persen. Saya pasti akan menjadi remaja itu. [Tertawa] Ya, tentu saja. Menurut saya secara umum, rentang waktunya sangat berbeda. Sejarah penulisan solusi tepat ke dalam kerangka peraturan cukup suram. Namun menurut saya undang-undang yang mengatur hal ini dapat mengatur hal-hal yang mewajibkan perlindungan privasi dengan cara yang menurut saya belum dilakukan. Itu akan mengarah pada solusi teknis. Inilah yang saya tanyakan. Pemerintah mengatakan, "Dengar, Anda harus mulai melakukan verifikasi usia. Anak-anak melihat segala macam hal aneh secara online. Kita harus mulai membatasi beberapa konten ini dengan cara yang sama seperti kita menjaga, entahlah, toko-toko porno secara fisik." Benar. “Atau kita akan menonton film berperingkat R. Oke, kita harus melakukannya.” Dan industri ini pasti akan memilih solusi termurah; kami hanya akan menyimpan SIM di bucket S3. Tentu. Atau mereka pasti akan memilih solusi yang memungkinkan mereka memasarkan informasi tersebut dengan cara tertentu, bukan? Anda duduk di tengahnya. Cita-cita dan struktur Anda menghalangi Anda melakukan versi termurah dan terburuk dari hal ini. Ya. Bagaimana Anda membuat industri ini sesuai dengan nilai-nilai Anda? Apakah regulator mengamanatkan solusi tersebut, yang menurut Anda merupakan ide buruk? Apakah mereka memberikan batasan pada solusi yang membuat semua orang melakukan hal yang benar? Dari mana asalnya? Oh, ini rumit. Jika saya tahu jawabannya, saya akan memaksakannya. Namun menurut saya kemitraan adalah salah satunya. Saya pikir tentu saja pedoman peraturan tentang apa yang dapat Anda simpan, apa yang tidak dapat Anda simpan, dan seberapa banyak yang dapat Anda ketahui tentang pelanggan Anda mungkin merupakan kuncinya. Saya pikir hal ini mungkin sedikit mempengaruhi persaingan, namun banyak potensi kerugian juga datang dari integrasi vertikal penuh dari banyak hal. Jadi, saya mewajibkan segala sesuatunya menjadi entitas yang terpisah, dan oleh karena itu, saya tidak akan membahas hal tersebut dalam pembicaraan ini, namun hal ini dapat banyak membantu mencegah jenis bahaya dan godaan tertentu untuk menyalahgunakan sesuatu. Namun menurut saya regulasi dan adanya persyaratan privasi dalam regulasi tentunya merupakan langkah pertama. Dan implementasi yang sesuai di sana setidaknya sudah diterapkan. Menurut saya, hal ini sekali lagi sulit untuk dilakukan, namun memaksakan hal ini pada produsen sistem operasi juga bisa berbahaya karena membantu memperkuat titik-titik hambatan tersebut. Kami sudah memiliki banyak kendala untuk Google, dan Apple memiliki ini- Itu lucu. Apple benar-benar menentang hal ini, tetapi Apple suka dijadikan sebagai titik penghambat. Menurut Anda mengapa mereka menolak menjadi pemverifikasi usia? Itu pertanyaan yang bagus, saya sebenarnya tidak tahu. Anda akan mengira mereka akan langsung melakukannya, bukan? Maksud saya, mereka tentu saja senang menjadi pusat perhatian di App Store dan membebankan biaya 30 persen kepada semua orang.  Aku tahu kamu sedang bertengkar. Ya. Proton telah berselisih dengan Apple mengenai kebijakan App Store. Hal ini terlihat seperti ketertarikan mereka untuk mengatakan, "Sebenarnya, kami akan mempertahankan kendali. 30 persen ini, berhentilah mengganggu kami mengenai 30 persen tersebut, para regulator, karena kami akan memberi Anda verifikasi usia." Ya. Maksud saya, menurut saya mereka mungkin melihatnya sebagai permainan tanpa kemenangan dalam artian Anda dapat melakukan KYC, atau mengenal pelanggan Anda, sekuat yang Anda inginkan, namun akan ada beberapa yang lolos, dan kemudian Anda bertanggung jawab. Jadi mungkin mereka hanya ingin pihak ketiga yang melakukannya, jadi itu bukan masalah mereka kan? Aku tidak tahu. Itu mungkin jawaban keseluruhannya. Izinkan saya menanyakan ini kepada Anda. Kami berbicara tentang verifikasi usia. Saya tidak yakin ada jawaban yang dapat menyelesaikan setiap masalah, namun Anda telah memaparkan beberapa pendekatan teknis yang setidaknya dapat menyeimbangkan dampak buruknya.  Ketika saya mengatakan bahwa kerugian terjadi dalam skala besar, yang saya maksud adalah CSAM — yang saya maksud adalah materi pelecehan seksual terhadap anak. Hal ini terjadi dalam skala besar melalui internet. Kita semua mengetahuinya. Ada banyak sekali cara untuk menguranginya. Dan ada juga platform yang tidak bisa kita lihat, di mana hal itu akan terjadi. Proton adalah salah satunya. iMessage sebenarnya berbeda, jika Anda mengenkripsi iMessage sepenuhnya. Apple mendapat banyak kritik karenanya. Tanggapan Apple sama dengan tanggapan Proton: "Tidak ada cara untuk melakukan ini. Kami tidak bisa memberi Anda cara untuk melakukan hal ini tanpa menciptakan pintu belakang bagi semua pelaku jahat lainnya. Anda menginginkannya, kami tidak akan melakukannya." Apa solusi untuk memitigasi dampak buruk CSAM tanpa menciptakan pintu belakang? Karena saya merasa hal itu juga hilang dari percakapan ini, terutama ketika saya berbicara dengan para aktivis yang sangat fokus pada skala dampak buruknya. Jadi saya tidak bisa menjelaskan dengan tepat apa yang dilakukan Proton karena anti-penyalahgunaan adalah salah satu hal yang sangat membantu keamanan melalui ketidakjelasan. Hal ini membantu jika pelaku kejahatan tidak mengetahui apa yang kita lakukan. Namun menurut saya Anda dapat melawan CSAM tanpa memindai konten. Itu mungkin. Banyak dari itu… Bagaimanapun, saya mungkin tidak seharusnya mengatakannya, tetapi Anda bisa melawan CSAM. Saya tidak mengatakan itu sama. Ini tidak seefektif memindai semuanya, tetapi juga di era pembuatan gambar AI, siapa yang tahu apa yang nyata atau tidak. Bukan berarti CSAM yang dihasilkan AI itu bagus, tapi intinya kamu tidak tahu kalau memang ada korbannya, kan, dan sebagainya. Jadi menurut saya ada alternatif selain memindai setiap gambar yang dapat Anda lakukan untuk melawan CSAM. Dan kami telah melakukan hal ini selama bertahun-tahun, dan sulit untuk mengetahui seberapa efektif kami melakukannya karena kami tidak benar-benar tahu apa penyebutnya. Menurut saya, kami telah melakukan hal yang sama, setidaknya dalam hal jaringan yang telah kami identifikasi: kami telah mengidentifikasi sesuatu, dan kami telah menutupnya, dan kami telah melakukan mitigasi terhadap hal ini. Kami memiliki kepentingan yang kuat untuk menjauhkan semua jenis pelaku kejahatan dari platform karena tujuan kami adalah… Misi ini tidak akan terlaksana jika “Oh, ini adalah platform untuk penjahat.” Dan hasilnya, ternyata tidak. Maksud saya, bagi sebagian besar pengguna Proton… Kami mengerahkan hampir 10 persen dari total sumber daya perusahaan untuk memerangi penyalahgunaan. Kami sangat serius untuk meminimalkan penyalahgunaan di platform ini. Jadi itu bisa dilakukan. Ini adalah pusat biaya. Ini adalah pusat biaya, dan yang kami makan. Itu tidak menghasilkan uang bagi kita, tapi itu bisa dilakukan. Saya pikir ada hal lain yang terjadi, dan ini bukan hanya CSAM, namun fakta bahwa dunia digital bukanlah satu-satunya tempat di mana kejahatan-kejahatan ini dilakukan. Ada juga bidang fisik. Ada korban sebenarnya. Sebenarnya ada pihak yang dirugikan dengan hal ini. Saya pikir semua orang ingin pekerjaannya lebih mudah. Polisi pun tidak terkecuali dalam hal ini. Jadi mereka ingin sekali memindai segala sesuatu di internet, dan saya sebenarnya tidak menyalahkan mereka atas permintaan ini karena akan membuat pekerjaan mereka lebih mudah, dan mereka benar-benar ingin mengurangi dampak buruknya. Namun, saya pikir kita perlu melakukan trade-off antara hal tersebut dan ancaman yang juga akan terjadi terhadap kebebasan masyarakat. Jadi menurut saya mungkin masih banyak lagi yang bisa dilakukan dalam ruang fisik untuk melawan penyalahgunaan sumber daya dan hal-hal lainnya. Namun menurut saya, dan saya ulangi, pemindaian konten bukanlah satu-satunya cara untuk melakukan ini. Ada juga beberapa pemindaian konten yang dapat dilakukan tanpa melanggar. Ini bisa terjadi di sisi klien; bisa jadi hal lain. Hal ini dapat dilakukan secara rahasia. Dalam beberapa hal, hal ini juga sangat rumit, namun ada beberapa hal yang dapat dilakukan untuk melakukan hal ini agar tidak melanggar privasi dalam skala besar, dan ini adalah harga yang menurut saya terlalu tinggi. Maksud Anda, ada sistem yang sulit Anda jelaskan dan efektif dalam menghentikan dampak buruk CSAM dalam skala besar. Apakah hal itu dapat dibuktikan dari sebagian masyarakat yang ingin memberlakukan peraturan tersebut? Apakah dapat diaudit? Keamanan melalui ketidakjelasan memiliki masalah ini, bukan? Kami harus mempercayai Anda. Percakapan ini sebagian besar kembali pada seberapa besar kita dapat mempercayai Proton secara struktural dan pribadi. Masalahnya adalah saya tidak tahu apa penyebutnya. Saya tidak tahu apakah kami menemukan 50 persennya; Saya tidak tahu apakah kami menemukan 10 persennya. Saya tidak tahu apakah kami menemukan satu persennya, karena yang saya tahu hanyalah barang-barang yang kami temukan. Meski begitu, itu masih bersifat probabilistik. Kami tidak melihat gambarnya. Terkadang kita tidak tahu. Terkadang kita memiliki petunjuk yang lebih baik, tapi saya tidak akan mengatakan caranya. Tapi kami tidak melihat gambarnya. Kami secara hukum tidak mampu melakukan hal tersebut, dan Tuhan tahu kami tidak ingin karyawan kami terkena hal tersebut.  Tapi tidak, kita tidak tahu apa penyebutnya, jadi saya tidak tahu seberapa efektifnya. Saya tahu bahwa sampai taraf tertentu, kita bisa menghubungkan hal ini dengan jenis permintaan hukum yang kita terima, dan jumlahnya sangat sedikit dan jarang.  Menurut saya, jika ini adalah masalah besar pada platform, kami akan mendapatkan lebih banyak permintaan legal untuk metadata mengenai hal ini dan hal-hal seperti ini. Dan itu adalah proxy kami, bukan untuk CSAM khususnya karena kami sering tidak tahu dari mana permintaan tersebut berasal, namun secara umum, salah satu proxy kami adalah, “Oke, berapa banyak permintaan hukum yang kami terima untuk data?” Berbeda dengan seberapa baik kita dalam anti-penyalahgunaan. Jika permintaan hukum berhasil mencapai puncaknya, padahal belum, maka jelas kita mempunyai masalah besar dengan anti-penyalahgunaan, dan hal tersebut tidak terjadi.  Jadi saya tahu itu jawaban plin-plan, tapi itulah masalahnya. Datanya bersifat pribadi. Kami tidak bisa membacanya. Itu seluruh urusan kami. Kami juga punya sistem pelaporan tentunya. Orang membuat kesalahan seperti orang lain. Jadi kalau mereka membagikan gambar, yang bisa dilaporkan, itu bisa saja terjadi. Jadi ada banyak mekanisme. Sekali lagi, saya berusaha untuk mengatakan detail apa pun karena saya tidak ingin hal ini menjadi tidak efektif. Namun menurut saya, kami melakukan pekerjaan dengan baik dibandingkan dengan indikator eksternal yang dapat kami lihat. Saya kasih contoh yang bukan CSAM, tapi sejenisnya ya. Kami biasanya mendapat banyak permintaan, secara relatif, banyak permintaan akun ransomware karena orang-orang akan beralih ke Proton. Dapatkan email Proton bahwa mereka akan, saya tidak tahu, [tautan] dengan sesuatu tentang Bitcoin, bukan? Apa pun. Kami akan mendapatkan ini dalam permintaan hukum. Kami dapat melihatnya dan berkata, “Oh, itu pasti akun ransomware karena berbagai alasan. ” Kami benar-benar pandai membunuh akun ransomware. Saat ini, terkadang kami masih menerima [permintaan tentang] konten tersebut, namun kami telah menonaktifkannya karena penyalahgunaan enam bulan sebelum kami mendapatkan permintaan hukum. Saya menggunakan ransomware sebagai analogi, namun kami memiliki umpan balik untuk mengetahui seberapa baik kami. Jadi ada sesuatu di sistem Anda, ada serangkaian indikator yang dapat Anda deteksi, dan Anda tidak akan memberi tahu saya apa itu. Namun ada beberapa indikator tentang bagaimana sebuah akun beroperasi di sistem Anda yang memungkinkan Anda mengetahui untuk apa akun tersebut digunakan? Ya. Pernahkah ada pemerintah yang menanyakan kepada Anda apa saja indikator yang dimaksud? Tidak. Menarik. Mudah-mudahan hal itu tidak terjadi hari ini. Polisi, jika Anda mendengarkan, lupakan bahwa Anda pernah mendengar semua ini. Kita kehabisan waktu di sini. Saya ingin segera, pada akhirnya, bertanya tentang AI. Karena kita sudah membicarakan sistem dan dinamika yang menurut saya cukup familiar. Saya membuka Usenet dan Slashdot, dan saya mungkin mendengar kutipan tentang kebebasan dan keamanan 10.000 kali. Itulah landasan hidup saya di internet. [Tertawa] Tentu. Perdebatan ini, entahlah, tahun 80an dan 90an hingga sekarang, sama saja. Dan mungkin AI akan membalik seluruh keranjang apel. Kini kita dapat melakukan keamanan siber dalam skala besar dengan cara yang dilakukan pemerintah dan menghentikan pengiriman model tersebut. Benar atau tidak, itulah yang sebenarnya terjadi di dunia. Kami dapat menghasilkan data sintetis dalam jumlah besar yang mungkin mengganggu semua sistem deteksi Anda, terlepas dari apakah ada bahaya yang sebenarnya terjadi di bagian hilir data tersebut atau tidak. Anda mengirimkan asisten AI karena banyak negara tidak ingin bergantung pada perusahaan model Amerika, dan kedaulatan data di Eropa penting bagi mereka. Ini sepertinya peluang pasar bagi Anda. Apa pendekatan Anda terhadap semua ini? Apakah Anda bergantung pada model AI? Apakah Anda bergantung pada perusahaan terdepan? Apakah Anda membuat model Anda sendiri? Bagaimana Anda melindungi data Anda dari mereka? Semua ini pada akhirnya terasa mengganggu, secara signifikan, struktur dan sistem yang telah kami jelaskan sampai sekarang. Saya rasa saya tidak terlalu khawatir. Menurut saya, hal itu mungkin tidak memberikan pengaruh yang dramatis terhadap topik yang telah kita diskusikan. Kami memiliki Lumo, internal kami sendiri, yang dijalankan. Kami mengontrol sistem yang menjalankannya, dan kami ingin independen dari model pihak ketiga dan sejenisnya. Apakah model tersebut benar-benar model yang Anda latih, atau dapat diandalkan? Tidak, ini adalah model sumber terbuka yang telah kami kompilasi. Dan ini adalah kumpulan model sumber terbuka yang kami susun berdasarkan kekuatan dan kelemahannya. Tapi ya, kami tidak punya satu miliar dolar untuk dikerahkan untuk melatih model kami sendiri. Inilah sebabnya mengapa kami mungkin menjadi salah satu dari sedikit perusahaan AI yang benar-benar menghasilkan uang dengan menggunakan AI, karena kami tidak melakukan pelatihan apa pun, bukan? Kami menjual inferensi. Bukan berarti tidak banyak pekerjaan yang dilakukan untuk membangun Lumo, tapi ya, kami tidak melatih model kami sendiri. Saya kira ada dua sisi yang berbeda. Ada pertanyaan “bagaimana AI akan mempengaruhi industri secara umum?” dan mungkin “bagaimana pengaruhnya terhadap kita dan cara kita menggunakannya.” Jadi untuk sebagian besar barang kami, khususnya barang sisi klien, ini bersifat open source. Hal-hal di sisi klien juga bukan rahasia pengguna. Jadi kami sudah mencoba model dari Anthropic dan ChatGPT. Kami juga telah mencoba Lumo dengan OpenAI karena, pada akhirnya, sebagian besar bersifat publik, dan ini bukan rahasia pengguna, jadi kami akan menggunakan alat terbaik untuk membuat kami melakukannya secepat mungkin.  Ini telah mengubah rekayasa perangkat lunak, mungkin secara permanen, dalam hal jumlah waktu yang dihabiskan untuk menulis kode dibandingkan dengan hal-hal lainnya. Tapi mungkin tidak terlalu mendasar. Maksud saya, orang-orang membicarakan hal SaaSpocalypse bahwa setiap perusahaan akan membuat perangkat lunak perusahaan mereka sendiri. Secara pribadi, saya tidak membelinya. Ada perbedaan yang sangat besar antara mampu membuat perangkat lunak pesanan pembelian khusus Anda sendiri, ERP, atau apa pun yang sesuai untuk bisnis kecil Anda, mungkin semacam itu, dan kemudian hal-hal yang — apakah itu kepatuhan, apakah itu penskalaan, apakah itu keandalan, semua hal yang dibutuhkan perusahaan namun tidak akan Anda lakukan… Maksud saya, saya tidak bisa melihat setiap perusahaan membangun [milik mereka sendiri]. "Oh, perangkat lunak sudah mati. Kita tidak akan memiliki vendor yang bisa menjanjikan hal-hal yang kita butuhkan." Saya tidak tahu apakah saya menjawab pertanyaan Anda di sini, tetapi hal lain tentang hal ini adalah, bagi saya, ini mungkin menggeser apa yang dihargai dalam rekayasa perangkat lunak ke keterampilan tingkat yang lebih senior. Namun hal ini tidak mengubah secara mendasar apa itu perangkat lunak yang baik, atau bagaimana merancang perangkat lunak yang baik. Jika ada, hal-hal seperti meninjau kode orang lain… Nah, hari ini Anda meninjau kode orang lain, dan Anda meninjau kode robot, tetapi keterampilannya sama. Jadi mungkin keseimbangan sebelumnya sedikit lebih ke arah, oke, bisakah Anda menulis kode dengan sangat cepat, akurat dengan hal semacam ini? Sekarang seperti, oke, ini lebih ke arah, bisakah Anda meninjau kode dengan sangat cepat? Yang mungkin merupakan keterampilan tingkat yang lebih senior. Namun hal ini masih merupakan bagian dari perangkat lunak insinyur: merancang perangkat lunak yang baik, apa arti perangkat lunak yang baik, seperti apa perangkat lunak yang baik itu. Satu hal yang kami temukan, menurut saya, adalah bahwa LLM bekerja jauh lebih baik bila kode Anda dirancang dengan baik. Jika kode Anda dirancang dengan baik, LLM akan bekerja lebih baik. Jika kode Anda berantakan, LLM tidak akan berfungsi dengan baik karena itu adalah mesin logika. Ada lebih banyak kemungkinan bagi mereka untuk menjadi bingung. Banyak sekali dasar-dasar pembuatan perangkat lunak — ya, industri telah berubah — tetapi banyak dasar-dasar pembuatan perangkat lunak yang berbeda.  Hal lain yang kami temukan adalah waktu yang Anda habiskan untuk menulis kode telah berkurang. Sekarang, ada hambatan lain dalam saluran Anda yang harus Anda atasi. Sekarang mungkin [integrasi berkelanjutan] Anda memakan waktu terlalu lama. Sekarang mungkin urusan Anda yang lain memakan waktu terlalu lama. Jadi ini mungkin mengubah hal-hal yang perlu Anda optimalkan, tetapi pada akhirnya, menurut saya bagi sebagian besar insinyur perangkat lunak senior, jumlah waktu yang mereka habiskan untuk menulis kode sejujurnya bukanlah bagian tersulit dari pekerjaan mereka atau apa yang mereka habiskan sebagian besar waktunya. Saya pikir perangkat lunak mungkin adalah industri yang paling terpengaruh dan industri yang paling patuh terhadap LLM yang pernah saya lihat, setidaknya sejauh ini. Tentu saja, ada kegunaan lain darinya, selain perangkat lunak; itu berbasis aturan. Anda dapat menguji kebenarannya. Anda dapat mengurangi banyak hal yang mungkin membuat LLM keluar jalur dan berhalusinasi. Pada akhirnya, Anda memerlukan kode yang berfungsi, bukan? Jadi Anda bisa menguji hal semacam ini.  Anda dapat mengurangi banyak masalah dengan LLM. Perangkat lunak adalah skenario terbaik Anda. Dan meskipun demikian, dari apa yang saya lihat, ini adalah sebuah evolusi. Ini bukanlah sebuah revolusi. Ini jelas merupakan perubahan besar, namun sebagian besar merupakan perubahan produktivitas, bukan “membuang segalanya, memulai kembali.” Mungkin aku salah tentang itu. Dan mungkin seiring dengan berkembangnya model, hal itu akan menjadi semakin dramatis. Namun saat ini, ini adalah peluang produktivitas yang luar biasa. Saya pikir – dan perangkat lunak adalah hal yang paling saya ketahui – ketakutan ini agak berlebihan. Izinkan saya bertanya pada Anda di sisi lain. Anda sebutkan sebelumnya bahwa sekarang dimungkinkan untuk melihat semua email dan melakukan pengawasan massal. Anthropic menyampaikan kepada pemerintah Amerika Serikat, "Anda dapat melakukan hal ini dengan model kami. Kami tidak ingin Anda melakukan hal tersebut karena menurut kami model tersebut tidak cukup baik, dan menurut kami ada masalah nyata dalam melakukan hal tersebut."  Anda juga menghadapi hal itu, bukan? Anda memiliki model AI internal Anda sendiri. Pengguna Anda mungkin menghasilkan lebih banyak data di dalam sistem Anda dibandingkan sebelumnya dengan AI. Sepertinya hal ini terjadi ketika Anda menambahkan AI ke suatu sistem. Model menjadi lebih baik jika Anda memberikan lebih banyak data. Mereka sangat rakus akan data. Ini merupakan tekanan besar pada “kami akan merahasiakan semuanya.” Ada banyak tekanan pada siapa yang dapat melihat barang-barang Anda, mengapa mereka dapat melihatnya, dan apa yang dapat mereka lakukan setelah mereka memilikinya. Dan nilai memilikinya tampaknya meningkat. Nilai pengumpulan semua data tampaknya meningkat. Ya. Bagaimana Anda menanggapi hal ini, bahkan ketika Anda harus meluncurkan sistem AI untuk bersaing dengan teknologi besar yang menerapkannya di mana-mana? Saya rasa ini sesuai dengan apa yang saya sebutkan sebelumnya: privasi adalah kendali. Privasi adalah penentuan nasib sendiri dalam artian Anda mengontrol data Anda, dan Anda mengontrol dengan siapa data tersebut dibagikan. Dan mungkin “siapa” itu adalah sistem AI, dan itu tidak masalah.  Saya kira selama ini adalah hal opt-in dari pengguna… Ini sebenarnya perdebatan internal, tapi kami sudah memiliki fitur. Misalnya oke, kami memiliki fitur milis. Oke? Saya berjanji ini ada hubungannya dengan AI, dengan pembelajaran. [Tertawa] Bangunannya besar; Ini dia. Namun kami memiliki fitur milis, dan fitur tersebut dilakukan secara privat. Saya mengirimi Anda email, atau mengirim email ke milis, dan milis tersebut mengirimkan email tersebut ke orang lain. Sistem tidak melihatnya. Namun jika Anda ingin orang di luar Proton ada di milis Anda, maka kami tidak dapat melakukan enkripsi ujung ke ujung lagi. Kita harus mematikannya.  Jadi saat Anda menambahkan orang eksternal ke milis Anda, Anda akan diminta, “Hai, jika Anda ingin mengaktifkan penerima eksternal, Anda harus mematikan enkripsi ujung ke ujung.” Pengguna mengatakan ya, karena itu bagian dari alur kerja mereka. Mereka membutuhkannya. Pada saat itu, kami masih belum menyimpan salinannya. Segala sesuatu yang disimpan di Proton dienkripsi saat diam. Namun, kami memiliki email teks jelas yang masuk ke sistem kami karena kami perlu mengirimkannya ke siapa pun penerima eksternalnya, bukan? Model seperti itulah yang saya lihat di masa depan dengan beberapa di antaranya. Ini bukan hanya sistem AI; ini juga merupakan integrasi di mana — dan terutama saat kita semakin mendalami klien bisnis dan sebagainya — saya memerlukan integrasi ini ke dalam CRM saya, bukan? Saya akan memilih untuk membagikan kotak surat ini dengan CRM saya. Tidak apa-apa. Itu bisa menjadi keputusan, dan tugas kita adalah membangun antarmuka pengguna yang mengkomunikasikan konsekuensinya. Namun privasi pada dasarnya… Ini bukan tentang tidak berbagi sesuatu. Ini bukan tentang tidak membagikan foto Anda; ini bukan tentang tidak membagikan data Anda dengan pihak ketiga. Ini tentang berbagi data dengan pihak ketiga yang Anda pilih, dan bukan hanya secara default dengan semua orang. Itu adalah paradigma teknologi besar untuk Web 2.0 atau apa pun sebutannya, selama dua dekade terakhir. Jadi saya pikir kita bisa menyelaraskan hal ini dengan masalah Proton karena ini bukan hanya soal enkripsi. Enkripsi adalah alat sampai akhir. Ini semua tentang, hei, fakta bahwa saya menyimpan data di komputer orang lain di internet tidak berarti bahwa saya memberi mereka kendali untuk melakukan apa pun yang mereka inginkan, atau bahwa saya percaya mereka tidak akan kehilangan data tersebut. Jadi kami akan mencoba dan membangun sistem di mana saya tetap memegang kendali, dan saya masih dapat berpartisipasi dalam layanan online modern, bukan? Saya rasa kami harus segera menemui Anda kembali untuk melihat bagaimana semua itu diuji. Ini baru. Ya. Saya rasa dalam beberapa tahun ke depan, kami akan mengetahui lebih banyak, jadi kami akan segera menerima Anda kembali. Anda telah memberi kami banyak waktu ekstra. Bart, terima kasih banyak telah menggunakan Decoder. Terima kasih. Terima kasih banyak; itu adalah sebuah ledakan. Saya menghargainya. Pertanyaan atau komentar? Hubungi kami di [email protected]. Kami benar-benar membaca setiap email!