Apple, Microsoft, dan Google sedang mengawal era baru dari apa yang mereka sebut sebagai smartphone dan komputer cerdas secara artifisial. Perangkat-perangkat tersebut, kata mereka, akan mengotomatisasi tugas-tugas seperti mengedit foto dan mengucapkan selamat ulang tahun kepada seorang teman.
Namun, untuk dapat melakukan hal tersebut, perusahaan-perusahaan ini membutuhkan sesuatu dari Anda: lebih banyak data.
Dalam paradigma baru ini, komputer Windows Anda akan mengambil tangkapan layar dari segala hal yang Anda lakukan setiap beberapa detik. Sebuah iPhone akan menggabungkan informasi di seluruh banyak aplikasi yang Anda gunakan. Dan sebuah telepon Android dapat mendengarkan percakapan secara langsung untuk memberi peringatan terhadap penipuan.
Apakah informasi ini yang Anda bersedia untuk dibagikan?
Perubahan ini memiliki konsekuensi penting terkait privasi kita. Untuk menyediakan layanan-layanan baru yang disesuaikan, perusahaan-perusahaan dan perangkat-perangkat mereka memerlukan akses yang lebih persisten dan intensif terhadap data kita daripada sebelumnya. Di masa lalu, cara kita menggunakan aplikasi dan mengakses file dan foto di telepon dan komputer relatif terisolasi. A.I. memerlukan gambaran keseluruhan untuk menghubungkan titik-titik antara apa yang kita lakukan di seluruh aplikasi, situs web, dan komunikasi, kata para ahli keamanan.
“Apakah saya merasa aman memberikan informasi ini kepada perusahaan ini?” Kata Cliff Steinhauer, seorang direktur di National Cybersecurity Alliance, sebuah lembaga nirlaba yang fokus pada keamanan cyber, tentang strategi-strategi A.I. perusahaan-perusahaan tersebut.
Semua ini terjadi karena ChatGPT dari OpenAI mengguncang industri teknologi hampir dua tahun yang lalu. Apple, Google, Microsoft, dan yang lainnya sejak itu telah mengubah strategi produk mereka, menginvestasikan miliaran dolar dalam layanan-layanan baru di bawah payung istilah A.I. Mereka yakin antarmuka komputasi baru ini — yang terus-menerus mempelajari apa yang Anda lakukan untuk menawarkan bantuan — akan menjadi tidak tergantikan.
Potensi risiko keamanan terbesar dengan perubahan ini berasal dari pergeseran halus yang terjadi dalam cara kerja perangkat-perangkat baru kita, kata para ahli. Karena A.I. dapat mengotomatisasi tindakan-tindakan kompleks — seperti membersihkan objek yang tidak diinginkan dari foto — kadang-kadang diperlukan kekuatan komputasi yang lebih besar daripada yang bisa diatasi oleh telepon kita. Itu berarti lebih banyak data pribadi kita mungkin harus meninggalkan telepon kita untuk diurus di tempat lain.
Informasi sedang ditransmisikan ke apa yang disebut cloud, sebuah jaringan server yang memproses permintaan-permintaan. Begitu informasi mencapai cloud, bisa dilihat oleh orang lain, termasuk karyawan perusahaan, pelaku buruk, dan agensi pemerintah. Dan sementara sebagian dari data kita selalu disimpan di cloud, data paling pribadi, intim yang dulu hanya untuk mata kita sendiri — foto, pesan, dan email — sekarang mungkin terhubung dan dianalisis oleh sebuah perusahaan di server-server mereka.
Perusahaan-perusahaan teknologi mengatakan bahwa mereka telah melakukan segala upaya untuk mengamankan data masyarakat.
Saat ini, penting untuk memahami apa yang akan terjadi dengan informasi kita ketika kita menggunakan alat-alat A.I., jadi saya mendapatkan informasi lebih lanjut dari perusahaan-perusahaan tentang praktik data mereka dan mewawancarai para ahli keamanan. Saya berencana untuk menunggu dan melihat apakah teknologi-teknologi tersebut cukup baik sebelum memutuskan apakah itu layak untuk membagikan data saya.
Inilah yang perlu Anda ketahui.
Inteligensi Apple
Baru-baru ini Apple mengumumkan Apple Intelligence, rangkaian layanan A.I. dan masuk pertama mereka dalam perlombaan A.I.
Layanan A.I. baru ini akan dibangun ke dalam iPhone, iPad, dan Mac tercepat mereka mulai musim gugur ini. Orang-orang akan bisa menggunakannya untuk secara otomatis menghapus objek-objek yang tidak diinginkan dari foto, membuat ringkasan artikel-artikel web, dan menulis balasan pada pesan teks dan email. Apple juga sedang memperbarui asisten suara mereka, Siri, untuk membuatnya lebih percakapan dan memberinya akses pada data-data di berbagai aplikasi.
Selama konferensi Apple bulan ini ketika mereka memperkenalkan Apple Intelligence, Wakil Presiden Senior Bidang Teknik Perangkat Lunak perusahaan, Craig Federighi, membagikan bagaimana itu bisa bekerja: Mr. Federighi membuka sebuah email dari seorang kolega yang memintanya untuk menunda pertemuan, tetapi ia seharusnya menonton pertunjukan drama malam itu yang dibintangi oleh anak perempuannya. Ponselnya kemudian membuka kalendernya, sebuah dokumen yang berisi detail-detail tentang pertunjukan drama tersebut, dan sebuah aplikasi peta untuk memprediksi apakah dia akan terlambat menuju pertunjukan jika setuju untuk pertemuan lebih lambat.
Apple mengatakan bahwa mereka sedang berupaya memproses sebagian besar data A.I. langsung pada telepon dan komputer mereka, yang akan mencegah orang lain, termasuk Apple, dari memiliki akses terhadap informasi tersebut. Namun, untuk tugas-tugas yang harus dipindahkan ke server, Apple mengatakan, mereka telah mengembangkan perlindungan, termasuk mengacak data dengan enkripsi dan langsung menghapusnya.
Apple juga telah menetapkan langkah-langkah agar karyawannya tidak memiliki akses terhadap data tersebut, kata perusahaan tersebut. Apple juga mengatakan mereka akan mengizinkan para peneliti keamanan untuk mengaudit teknologi mereka untuk memastikan bahwa itu sesuai dengan janji-janji mereka.
Namun, Apple belum jelas mengenai permintaan Siri baru mana yang bisa dikirim ke server perusahaan, kata Matthew Green, seorang peneliti keamanan dan seorang profesor asosiasi ilmu komputer di Universitas Johns Hopkins, yang diberi informasi oleh Apple tentang teknologi baru mereka. Apa pun yang meninggalkan perangkat Anda secara inheren kurang aman, katanya.
Laptop A.I. Microsoft
Microsoft membawa A.I. ke laptop-laptop klasik.
Minggu lalu, mereka mulai menggulirkan komputer-komputer Windows yang disebut Copilot+ PC, yang dimulai dari $1.000. Komputer-komputer tersebut mengandung chip tipe baru dan perlengkapan lain yang menurut Microsoft akan menjaga data Anda tetap pribadi dan aman. PC-PC tersebut dapat menghasilkan gambar dan menyusun ulang dokumen, di antara fitur-fitur baru yang didukung A.I. perbaikan.
Perusahaan tersebut juga memperkenalkan Recall, sebuah sistem baru untuk membantu pengguna dengan cepat menemukan dokumen dan file yang pernah mereka kerjakan, email yang pernah mereka baca, atau situs web yang pernah mereka jelajahi. Microsoft membandingkan Recall dengan memiliki ingatan fotografer terintegrasi ke dalam PC Anda.
Untuk menggunakannya, Anda dapat mengetik frasa-frasa santai, seperti “Saya sedang memikirkan panggilan video yang saya lakukan dengan Joe baru-baru ini ketika dia memegang mug kopi ‘I Love New York’.” Komputer tersebut akan mencari rekaman panggilan video yang mengandung detail-detail tersebut.
Untuk mencapainya, Recall mengambil tangkapan layar setiap lima detik dari apa yang pengguna lakukan di mesin dan mengkompilasinya ke dalam basis data yang dapat dicari. Tangkapan layar tersebut disimpan dan dianalisis langsung pada PC, sehingga data tersebut tidak ditinjau oleh Microsoft atau digunakan untuk meningkatkan A.I. mereka, kata perusahaan tersebut.
Namun, para peneliti keamanan memperingatkan tentang risiko-risiko potensial, menjelaskan bahwa data tersebut dengan mudah dapat mengekspos segala hal yang pernah Anda ketik atau lihat jika diretas. Sebagai tanggapan, Microsoft, yang sebelumnya berniat untuk meluncurkan Recall minggu lalu, menunda perilisan tersebut untuk waktu yang tidak ditentukan.
PC-PC ini dilengkapi dengan sistem operasi terbaru Microsoft, Windows 11. Dia memiliki beberapa lapisan keamanan, kata David Weston, seorang eksekutif perusahaan yang mengawasi keamanan.
A.I. Google
Google bulan lalu juga mengumumkan rangkaian layanan A.I.
Salah satu penemuan terbesarnya adalah detektor penipuan yang didukung A.I. baru untuk panggilan telepon. Alat tersebut mendengarkan panggilan telepon secara waktu nyata, dan jika penelepon terdengar seperti penipu potensial (misalnya, jika penelepon meminta PIN perbankan), perusahaan tersebut memberi tahu Anda. Google mengatakan orang-orang harus mengaktifkan detektor penipuan tersebut, yang sepenuhnya dioperasikan oleh telepon. Itu berarti Google tidak akan mendengarkan panggilan-panggilan tersebut.
Google mengumumkan fitur lainnya, Ask Photos, yang membutuhkan pengiriman informasi ke server perusahaan. Pengguna dapat bertanya seperti “Kapan anak saya belajar berenang?” untuk menampilkan gambar-gambar pertama anak mereka berenang.
Google mengatakan karyawannya bisa, dalam kasus-kasus langka, meninjau percakapan Ask Photos dan data foto untuk menangani penyalahgunaan atau bahaya, dan informasi tersebut juga mungkin digunakan untuk membantu memperbaiki aplikasi foto mereka. Untuk menjelaskannya, pertanyaan Anda dan foto anak Anda berenang bisa digunakan untuk membantu orang tua lain menemukan gambar-gambar anak mereka berenang.
Google mengatakan cloud mereka dilindungi dengan teknologi-teknologi keamanan seperti enkripsi dan protokol untuk membatasi akses karyawan terhadap data.
“Pendekatan kami yang menjaga privasi berlaku untuk fitur A.I. kami, tidak peduli apakah mereka didukung pada perangkat atau di cloud,” kata Suzanne Frey, seorang eksekutif Google yang mengawasi kepercayaan dan privasi, dalam sebuah pernyataan.
Namun, Mr. Green, peneliti keamanan tersebut, mengatakan pendekatan Google terhadap privasi A.I. terasa relatif tidak terbuka.
“Saya tidak suka ide bahwa foto-foto pribadi saya dan pencarian-pencarian pribadi saya akan pergi ke cloud yang tidak berada di bawah kendali saya,” katanya.