Dari semua banyak kisah Steve Jobs yang terkenal yang disukai oleh orang-orang industri teknologi, mungkin satu-satunya yang paling terkenal adalah pitch 1983 untuk presiden Pepsi John Sculley untuk bergabung dengan Apple: “Apakah Anda ingin menghabiskan sisa hidup Anda menjual air yang manis atau Anda ingin kesempatan untuk mengubah dunia?”
Seperti banyak hal yang dikatakan Jobs, lapangan itu sangat sombong, penting dan membesarkan diri, tetapi pada akhirnya benar. Apa yang dilakukan Sculley di Apple (kebanyakan setelah pekerjaan menembak) untuk menjual Macintosh dan mempopulerkan komputasi pribadi yang berpusat pada grafis mengubah dunia lebih dari penemuannya tentang tantangan Pepsi. Benar -benar ada perbedaan besar antara menjual Mac dan menjual air gula.
Setelah mendengarkan CEO Meta Mark Zuckerberg, meletakkan visinya tentang bagaimana AI “Superintelligence” akan mengubah dunia, meskipun, reaksi utama saya adalah: man, orang ini hanya ingin menjual air gula kepada kami.
“Superintelligence Pribadi”? Mungkin hanya “Superintelligence,” itu lebih bersih
Dalam video Instagram (tentu saja) yang diposting minggu lalu, Zuck menjelaskan bahwa tujuan Meta adalah untuk mengembangkan “pengawasan pribadi untuk semua orang,” diakses melalui perangkat seperti “kacamata yang dapat melihat apa yang kita lihat, dengarkan apa yang kita dengar, dan berinteraksi dengan kita sepanjang hari.”
“Banyak yang telah ditulis tentang kemajuan ilmiah dan ekonomi yang dapat dibawa AI,” katanya. “Dan saya sangat optimis tentang ini.” Tetapi visinya “berbeda dari orang lain dalam industri yang ingin mengarahkan AI dalam mengotomatisasi semua pekerjaan yang berharga”: “Saya pikir dampak yang lebih bermakna dalam hidup kita akan datang dari semua orang yang memiliki pengawasan pribadi yang membantu Anda mencapai tujuan Anda, menciptakan apa yang ingin Anda lihat di dunia, jadilah teman yang lebih baik, dan tumbuh menjadi orang yang Anda rawat.”
Daftar di sini untuk mengeksplorasi masalah besar dan rumit yang dihadapi dunia dan cara paling efisien untuk menyelesaikannya. Dikirim dua kali seminggu.
Reaksi utama terhadap pitch ini yang saya lihat dari pengamat AI pintar adalah: apakah Anda bercanda? “Superintelligence,” menurut definisi, berarti sistem yang berkinerja lebih baik daripada manusia, kadang -kadang jauh lebih baik, di sebagian besar jika tidak semua domain. Dan hal yang paling ambisius yang dapat dipikirkan Zuck untuk dibuat dengan itu adalah … kacamata VR? Seperti yang dikatakan Sharon Goldman dari Fortune, sementara Steve Jobs menyebut komputernya “sepeda untuk pikiran,” “Zuckerberg, sebaliknya, membayangkan Superintelligence sebagai sepasang ray-bans yang membantu Anda … menjadi teman yang lebih baik?”
Kurangnya ambisi dalam retorika Zuckerberg semakin mencolok ketika seseorang mempertimbangkan ambisi ekstremnya pengeluaran di ai. Tahun ini saja, dia mempekerjakan mantan CEO Github Nat Friedman dan pendiri veteran AI Daniel Gross; Skala CEO AI Alexandr Wang (sebagai bagian dari skala Quasi-Purchase, sebuah perusahaan penting yang sangat penting yang data pelatihannya digunakan oleh hampir setiap perusahaan AI); Kepala Apple AI Ruoming Pang; dan co-pencipta Chatgpt Shengjia Zhao, di antara beberapa lainnya.
Perekrutannya, dan jumlah raksasa yang dia bersedia membayar talenta terbaik, telah menggembalakan sektor ini selama berminggu -minggu sekarang. Di salah satu pesaing (mantan Openai CTO CTO Mira Murati’s Thinking Machines Lab), Zuckerberg dilaporkan mengirim tawaran ke lebih dari selusin 50 staf perusahaan, salah satunya untuk lebih dari $ 1 miliar selama beberapa tahun, sementara sisanya berkisar antara $ 200 juta hingga $ 500 juta selama empat tahun.
Bahkan untuk perusahaan yang sama kaya meta, tawaran miliaran-plus untuk bakat tidak pernah terdengar. ($ 1 miliar adalah berapa banyak yang dibayar Zuckerberg untuk semua Instagram pada tahun 2012.) Ini adalah tanda yang cukup jelas bahwa Zuckerberg melihat AI sebagai masa depan bisnisnya.
Tapi seperti apa masa depan itu?
Saya telah melihat pikiran digital terbaik dari generasi saya yang terbuang pada gulungan
Seseorang dapat, dengan sangat murah hati, alasan bahwa Zuckerberg tahu bahwa dunia sistem AI yang sangat pengawas akan mengarah pada konsekuensi sosial yang luas dan luas yang tidak dirangkum secara memadai sebagai “Anda mendapatkan kacamata hitam yang cerdas,” tetapi ia telah menyimpulkan bahwa sebagian besar investor dan pelanggannya tidak berada di tempat untuk memahami gravitasi dari perubahan tersebut. Karenanya, bicarakan kacamata.
Itu bisa jadi apa yang terjadi, dan saya memiliki simpati untuk posisinya jika demikian. Mencoba untuk bermain seperti apa dunia pasca-superintelligence sebenarnya sangat sulit, paling tidak bagi kita yang terbatas pada kecerdasan manusia belaka. Dan biasanya menakutkan - bahkan jika perubahan pada akhirnya terbukti positif.
Untuk semua ketidakpastian, tidak ada dunia yang masuk akal di mana orang memiliki akses ke “pengawasan pribadi” dan mereka dan bisnis tidak menggunakannya untuk mengotomatiskan sejumlah besar tugas, dan ada sejumlah skenario yang mungkin dibayangkan di mana itu memimpin permintaan untuk tenaga kerja upah manusia benar -benar runtuh. Skenario lain melihat upah meroket. Ini adalah situasi yang sulit bagi CEO untuk pesan.
Tetapi juga patut dipertimbangkan bahwa Zuckerberg berarti apa yang dia katakan: bahwa sistem AI yang sedang dibangun timnya tidak dimaksudkan untuk mengotomatisasi pekerjaan tetapi untuk menyediakan lapisan meta yang diatur antara manusia individu dan dunia di luar mereka. Facebook dan Instagram, dalam arti tertentu, versi yang sangat kasar dari lapisan itu, mensintesis dan memampatkan dunia luar menjadi bentuk yang dapat dicerna dan adiktif yang dapat dikonsumsi orang sepanjang hari -hari mereka, dan obsesi Zuckerberg sebelumnya dengan metaverse tampaknya merupakan kelanjutan yang logis. Pendekatan ini sangat menguntungkan. (Meskipun, tidak terlalu banyak metaverse.) Bayangkan betapa jauh lebih menguntungkannya jika pikiran digital jauh lebih pintar daripada Zuck sedang mendesainnya.
Percakapan seperti Zuckerberg dengan penulis bisnis Ben Thompson dapat memberikan kepercayaan pada interpretasi ini. Zuckerberg melihat empat peluang dengan AI: meningkatkan algoritma rekomendasi produknya untuk menargetkan iklan yang lebih baik, mendorong keterlibatan yang lebih besar pada “permukaan konsumen” seperti gulungan Instagram, “pesan bisnis” (yaitu, bisnis melakukan transaksi melalui WhatsApp dan Messenger, menggunakan AI), dan terakhir penggunaan AI langsung à la chatgpt.
Janji AI, kepada Zuckerberg, adalah bahwa itu dapat membantunya menjual lebih banyak iklan dan meyakinkan Anda untuk menghabiskan lebih banyak waktu menonton Instagram Brainrot. Reaksi saya terhadap pitch itu sama dengan penulis AI Zvi Mowshowitz: “Rasanya seperti jika Anda mengambil karikatur sayap kiri mengapa Zuckerberg itu jahat, menggabungkannya dengan karikatur sayap kiri tentang mengapa AI adalah jahat, dan kemudian menyatukannya ke dalam bentuk terakhir. Kecuali datang langsung dari Zuckerberg, sebagai teks eksplisit, dengan tujuan. Setidaknya air gula dari Pepsi rasanya enak.
Bahwa perusahaan terbesar keenam di Bumi mencurahkan miliaran dolar untuk visi ini bukanlah, kau tahu, Besar. Tetapi memiliki lapisan perak.
Satu hal yang saya pelajari dari berbicara dengan peneliti AI selama bertahun -tahun adalah bahwa kebanyakan dari mereka didorong oleh keyakinan bahwa hal yang mereka bangun ini benar -benar penting secara sosial. Kadang -kadang itu datang dengan nada pengaman (“Hal ini bisa membunuh kita, dan kita perlu membuatnya jadi tidak”), kadang -kadang dengan semburat akselerasi (“benda ini bisa membebaskan umat manusia dari kelangkaan ekonomi”), tetapi bagaimanapun juga biasanya dinyatakan dengan keyakinan nyata. Jika mereka hanya menginginkan uang, mereka akan bekerja untuk dana lindung nilai. Tetapi mereka juga ingin membangun sesuatu yang mereka banggakan.
Karakter karakter itu akan, saya pikir, menyebabkan “melempar uang pada orang pintar sampai mereka semua bergabung” yang berusaha Zuckerberg gagal. Jika Superintelligence dibangun, itu akan dibangun oleh tim yang produktif karena visi yang penuh gairah, dibagikan, dan optimis untuk seperti apa dunia dengan pengawasan nantinya. Itu akan dibuat karena pembuatnya ingin mengubah dunia, tidak menjual air gula. Sebuah tim peneliti yang bergabung terutama untuk uang, di bawah seorang pemimpin yang visinya yang paling berani adalah “bagaimana jika kita menjual lebih banyak iklan di kacamata hitam,” tidak akan berhasil.