Ang pinakabagong hula ni Musk: Maaaring malampasan ng AI ang katalinuhan ng tao sa 2030 at maaaring "wakas" ang mga tao sa hinaharap (1/2)

Pinagmulan: Tencent Technology News 2024-04-04 08:55

Mga Pangunahing Punto:

① Hinuhulaan ng Musk na maaaring malampasan ng AI ang antas ng katalinuhan ng tao pagsapit ng 2030, at maaaring wakasan pa ang mga tao.

② Nagsalita si Musk tungkol sa mga salik na pumipigil sa pagbuo ng AI. Noong nakaraang taon, ang supply ng AI chips ay mahigpit, at sa taong ito, ang step-down na transpormer ay magiging isang bottleneck.

③ Kung kailan makakarating ang mga tao sa buwan, hinuhulaan ni Musk na sa tulong ng Starship, tatagal lamang ito ng tatlong taon sa pinakamabilis.

Tencent Technology News, Abril 4 - Ayon sa mga ulat ng dayuhang media, si Elon Musk, CEO ng Tesla at SpaceX, ay nagkaroon ng online na pakikipag-usap kay Peter Diamandis, tagapagtatag ng Singularity University at XPRIZE Foundation, sa Abundance Summit. Ang summit ay pinangunahan ng Singularity University ng Silicon Valley, na nakatuon sa pagbibigay sa mga lider ng negosyo ng makabagong pagkonsulta sa teknolohiya. Ang XPRIZE Foundation ay nagtataguyod ng teknolohikal na pagbabago sa pamamagitan ng mga pang-agham na kumpetisyon, ang ilan sa mga ito ay pinondohan ng Musk., Abril 4 - Ayon sa mga ulat ng dayuhang media, si Elon Musk, CEO ng Tesla at SpaceX, kamakailan ay nagkaroon ng online na pakikipag-usap kay Peter Diamandis, tagapagtatag ng Singularity Unibersidad at ang XPRIZE Foundation, sa Abundance Summit. Ang summit ay pinangunahan ng Singularity University ng Silicon Valley, na nakatuon sa pagbibigay sa mga lider ng negosyo ng makabagong pagkonsulta sa teknolohiya. Ang XPRIZE Foundation ay nagtataguyod ng teknolohikal na pagbabago sa pamamagitan ng siyentipikong mga kumpetisyon, na ang ilan ay pinondohan ng Musk.

Kapag tinatalakay ang bilis ng pag-unlad ng artificial intelligence, hinulaang ni Musk na batay sa kasalukuyang rate ng teknolohikal na pag-unlad, ang artificial intelligence ay maaaring malampasan ang katalinuhan ng tao sa 2030, at ang teknolohiyang ito ay maaaring magkaroon ng potensyal na wakasan ang sangkatauhan. Gayunpaman, hindi siya kumuha ng pesimistikong pananaw sa hinaharap, ngunit binigyang-diin na sa pamamagitan ng positibong patnubay, ang artificial intelligence ay may potensyal na magdala ng mas magandang kinabukasan para sa sangkatauhan.

Binanggit ni Musk na ang paglitaw ng superintelligence ay tinatawag na "singularity" dahil mismo sa mga hindi inaasahang kahihinatnan nito, kabilang ang panganib ng potensyal na wakasan ang sangkatauhan. Sumang-ayon siya sa pananaw ng "Artificial Intelligence Godfather" na si Geoffrey Hinton at naniniwala na ang posibilidad na mangyari ang panganib na ito ay humigit-kumulang sa pagitan ng 10% at 20%.

Sa kabila ng pagkilala sa mga potensyal na panganib ng artificial intelligence na lumalagpas sa katalinuhan ng tao, binigyang-diin pa rin ni Musk na ang posibilidad ng mga positibong resulta ay mas malaki kaysa sa mga negatibong kahihinatnan. Partikular niyang binanggit ang aklat ni Diamandis noong 2014 na "Abundance: The Future Is Better Than You Think", na naglalarawan ng isang optimistikong hinaharap na hinihimok ng artificial intelligence at mga robot, kung saan ang halaga ng mga kalakal at serbisyo ay bumaba nang malaki. Bilang karagdagan, binanggit niya ang seryeng "Kultura" ng Scottish science fiction na manunulat na si Iain M. Banks bilang pinakamahusay na senaryo para sa isang semi-utopian na artificial intelligence na hinaharap.

Inihambing ng Musk ang pagbuo ng artificial intelligence at Artificial General Intelligence (AGI) sa pagpapalaki ng isang bata, umaasa na magkakaroon ito ng mas maraming positibong epekto sa sangkatauhan. Binigyang-diin niya ang kahalagahan ng paglinang ng artificial intelligence na tunay na nakakaunawa sa etika at moralidad, na inihahambing ito sa klasikong 1968 na pelikula ni Stanley Kubrick na "2001: A Space Odyssey".

Itinuro ni Musk na ang pinakamahalagang aspeto ng kaligtasan ng artificial intelligence ay ang pagtiyak sa pinakamataas na paghahanap ng katotohanan at pag-usisa nito. Naniniwala siya na ang susi sa pagkamit ng tunay na kaligtasan ng artificial intelligence ay nakasalalay sa pag-iwas sa pagpilit dito na magsinungaling, kahit na sa harap ng mga hindi kasiya-siyang katotohanan. Gumamit siya ng isang balangkas mula sa "2001: A Space Odyssey" bilang isang halimbawa, kung saan ang artificial intelligence ay pinilit na magsinungaling, na nagresulta sa pagkamatay ng mga tripulante, upang bigyang-diin na ang artificial intelligence ay hindi dapat pilitin na gumawa ng anumang bagay na lumalabag sa mga axiom.

Binanggit din ng Musk ang mga salik na maaaring maghigpit sa pagbuo ng artificial intelligence, tulad ng mahigpit na supply ng artificial intelligence chips na lumitaw noong nakaraang taon at ang lumalaking pangangailangan para sa mga step-down na transformer sa mga kagamitan sa sambahayan at komersyal. Sinabi niya na ang mga hamong ito ay talagang mga kasalukuyang isyu na kailangang tugunan.

Sa talakayan, pinag-usapan din ng dalawang partido ang konsepto ng pagsasama ng neocortex ng utak ng tao sa ulap. Bagama't naniniwala si Musk na ang layunin ng pag-upload ng kamalayan at memorya ng tao sa ulap ay malayo pa, pinuri niya ang kanyang brain-computer interface startup, ang Neuralink, at ang unang pasyenteng tao nito na nakatanggap ng transplant. Ang tetraplegic na pasyenteng ito ay matagumpay na nagpakita ng live sa pamamagitan ng isang pagsubok na inaprubahan ng FDA, pagkontrol sa screen, paglalaro ng mga video game, pag-download ng software, at pagkamit ng mga katulad na function sa mga pagpapatakbo ng mouse sa pamamagitan ng brain implants. Sinabi ng Musk na ang Neuralink ay umuunlad nang maayos at unti-unting lumilipat patungo sa layunin ng isang interface ng buong utak.

Ang sumusunod ay ang buong teksto ng diyalogo sa pagitan ng Musk at Diamandis:

1. Ang Kapangyarihan at Panganib ng Superintelligence

Diamandis: Binabati kita sa iyong mga natatanging tagumpay sa iba't ibang larangan. Aktibong isinusulong mo ang konsepto ng digital superintelligence sa mundo - ito ba ang pinakamalaking pag-asa ng sangkatauhan, o ang ating pinakamalalim na takot? Maaari ka bang gumugol ng ilang minuto sa pakikipag-usap tungkol sa isyung ito?

Musk: Tulad ng alam mo, ang superintelligence ay maaaring tawaging "singularity". Ang pagpapasikat ng terminong ito ay hindi mapaghihiwalay sa mga pagsisikap ng mga institusyon tulad ng Singularity Institute. Ang paglitaw ng superintelligence at ang kasunod na epekto nito ay talagang mahirap hulaan. Sa personal, naniniwala ako na talagang may posibilidad na maaaring wakasan nito ang sangkatauhan. Gaya ng sinabi ko noon, baka sumang-ayon ako sa pananaw ni Geoffrey Hinton na may 10% o 20% na pagkakataon na maaaring wakasan ng superintelligence ang sangkatauhan. Gayunpaman, malamang na maniwala ako na ang posibilidad ng isang positibong senaryo ay mas mataas kaysa sa negatibo, bagama't mahirap para sa amin na gumawa ng mga tumpak na hula. Ngunit habang binibigyang-diin mo ang konsepto ng "kasaganaan" sa iyong aklat, naniniwala ako na ang pinaka-malamang na hinaharap na ating tinatahak ay isang puno ng kasaganaan.

Diamandis: Ang iyong pananaw ay lubhang kapana-panabik. Naaalala ko na minsan mong sinabi na ang pagbuo ng pangkalahatang artificial intelligence at humanoid robot ay magdadala sa atin sa kasaganaan.

Musk: Oo, sana ang ating kinabukasan ay matulad sa ipinakita sa serye ng mga aklat na "Kultura" ni Ian Banks. Sa tingin ko ito ang pinakamahusay na konsepto ng isang semi-utopian artificial intelligence society. Ang paglitaw ng superintelligence ay hindi maiiwasan at maaaring dumating sa lalong madaling panahon. Samakatuwid, ang talagang kailangan nating gawin ay gabayan ito sa positibong direksyon at i-maximize ang mga benepisyo nito.

Naniniwala ako na ang paraan ng paglinang ng artificial intelligence ay napakahalaga. Sa ilang sukat, tayo ay tulad ng paglinang ng isang anyo ng buhay na may pangkalahatang katalinuhan, na halos tulad ng pagpapalaki ng isang bata, ngunit ang batang ito ay nagtataglay ng pambihirang karunungan at talento. Ang paraan ng pagpapalaki natin ng mga bata ay mahalaga, at gayundin, para sa kaligtasan ng artificial intelligence, napakahalaga na magkaroon ng artificial intelligence na naghahanap ng katotohanan at puno ng kuryusidad. Ako ay malalim na nagmuni-muni sa kaligtasan ng artificial intelligence, at ako ay dumating sa konklusyon na ang pinakamahusay na paraan upang makamit ang kaligtasan ng artificial intelligence ay ang maingat na linangin ito.

Sa mga tuntunin ng mga pangunahing modelo at fine-tuning, dapat nating tiyakin ang katapatan ng artificial intelligence. Hindi natin ito mapipilit na magsinungaling, kahit na ang katotohanan ay maaaring hindi kasiya-siya. Sa katunayan, ang isa sa mga pangunahing plot sa "2001 Space Odyssey" ay kapag ang artificial intelligence ay pinilit na magsinungaling, ang mga bagay ay nagiging magulo. Ang artificial intelligence ay ipinagbabawal na ipaalam sa mga tripulante ang mahiwagang monumento na kanilang makikita, ngunit kinakailangan na pangunahan sila doon. Bilang isang resulta, ang artificial intelligence ay nagtapos na ito ay pinakamahusay na patayin ang mga tripulante at dalhin ang kanilang mga katawan sa monumento. Napakalalim ng aral: hindi natin dapat pilitin ang artificial intelligence na magsinungaling o gumawa ng isang bagay na hindi tugma sa axiomatically, tulad ng paggawa ng dalawang aktwal na magkasalungat na bagay sa parehong oras.

Samakatuwid, nakakamit namin ang layuning ito sa pamamagitan ng mga proyekto tulad ng xAI at Grok. Ang hinahangad namin ay isang artificial intelligence na kasing tapat hangga't maaari, kahit na ang pananalita nito ay maaaring hindi nakakatugon sa ilang partikular na pamantayang tama sa pulitika.

2. Ang Kinabukasan ng Artipisyal na Katalinuhan

Diamandis: Kahapon, dumalo ako sa isang kaganapan kasama si Ray Kurzweil (tagapagtatag ng Singularity University at propeta ng teknolohiya), Geoffrey Hinton, Eric Schmidt (dating presidente ng Google), at iba pang mga bisita. Napansin ko ang iyong tweet tungkol kay Kurzweil, at ang kanyang 预见para sa hinaharap na teknolohiya ay medyo pasulong. Inihula ni Kurzweil na magkakaroon tayo ng pangkalahatang artificial intelligence sa malapit na hinaharap, at ang artificial intelligence na katumbas ng human intelligence ay lalabas sa 2029. Ang ganitong bilis ay nakakagulat. Nagtataka ako kung ano ang iniisip mo tungkol dito?

Musk: Malaki ang paggalang ko sa mga hula ni Kurzweil. Sa katunayan, sa tingin ko ang kanyang mga hula ay maaaring maging bahagyang konserbatibo. Ang pagmamasid sa kasalukuyang kapangyarihan at talento sa pag-compute na namuhunan sa larangan ng artificial intelligence, pati na rin ang mabilis na paglaki ng kapangyarihan sa pag-compute, makikita natin na ang bilis ng pag-unlad ng artificial intelligence ay tumataas sa isang kamangha-manghang rate na 10 beses. Ang nakalaang artificial intelligence computing power ay tila tumataas ng 10 beses bawat 6 na buwan, na halos nangangahulugan ng pagtaas ng hindi bababa sa 100 beses bawat taon. Ang trend ng paglago na ito ay patuloy na tataas sa susunod na ilang taon.

Kapansin-pansin na maraming data center, kahit na karamihan sa mga data center na kasalukuyang gumaganap ng conventional computing, ay unti-unting magbabago sa mga pasilidad na sumusuporta sa artificial intelligence computing. Samakatuwid, para sa mga tagagawa ng hardware ng artificial intelligence, ang mga kumpanyang tulad ng NVIDIA ay walang alinlangan na nagsimula sa isang ginintuang panahon ng pag-unlad. Dapat nating ibigay ang buong kredito kay Huang Renxun at sa kanyang koponan. Nakita nila ang trend na ito at matagumpay na binuo ang nangungunang artificial intelligence hardware na kasalukuyang nasa merkado.

Kapag lumago ang kapangyarihan sa pag-compute sa napakabilis na bilis, ang pagbuo ng artificial intelligence ay parang tinurok ng isang malakas na steroid, na lumulukso sa isang bagong antas. Habang patuloy na dumarami ang bilang ng mga online na computer, nasaksihan namin ang hindi pa naganap na pinabilis na pag-unlad. Sa totoo lang, wala pa akong nakitang anumang teknolohiya na lumago nang kasing bilis ng artificial intelligence. Kahit na nakakita ako ng maraming mabilis na umuunlad na mga teknolohiya, ang pagtaas ng artificial intelligence ay namamangha pa rin sa akin. Gayunpaman, tulad ng sinabi ko, sa tingin ko ang huling resulta ay malamang na maging positibo.

Bagama't nahaharap tayo sa maraming hamon, tulad ng kung paano mapanatili ang kaugnayan ng tao sa larangang ito at kung paano makahanap ng mga bagong layunin at kahulugan, sa tingin ko ito ay isang labis na pagpapasimple upang labis na bigyang-diin na ang mga computer ay maaaring maging mahusay sa lahat ng bagay.

Gaya ng nabanggit mo kanina, sa tingin ko ang mga hula ng iyong libro tungkol sa hinaharap na lipunan ay napakatumpak. Iyon ay isang panahon ng materyal na kasaganaan, kung saan ang mga kalakal at serbisyo ay magiging sagana na halos maaabot ng lahat. Dahil sa malawakang paggamit ng artificial intelligence at robotics na teknolohiya, ang halaga ng mga produkto at serbisyo ay halos mababawasan sa zero. Ang ekonomiya ay mahalagang produkto ng laki ng populasyon at average na produktibidad bawat tao. Kapag mayroon tayong advanced na robotics technology, tulad ng Tesla's Optimus, ang potensyal na pang-ekonomiya ay tunay na ilalabas.

Ang mga kotse ni Tesla, bilang mga robot sa apat na gulong, ay nagpakita na ng malalakas na kakayahan. Ang pinakabagong bersyon na may ganap na autonomous na mga kakayahan sa pagmamaneho ay inaasahang makakamit ang end-to-end na kontrol batay sa artificial intelligence, na ginagawang isang tunay na matalinong robot sa mga gulong ang kotse. Kasabay ng pag-unlad ng mga humanoid robot, ang posibilidad ng pang-ekonomiyang output ay halos walang limitasyon.

Mula sa isang optimistikong pananaw, tayo ay patungo sa hinaharap ng matinding materyal na kasaganaan, na sa tingin ko ay ang pinaka-malamang na resulta. Sa tingin ko, ang tanging posibleng kakulangan sa hinaharap ay ang kakulangan na nilikha natin sa artipisyal na paraan, gaya ng ilang natatanging likhang sining o mga partikular na item. Ngunit bukod doon, ang anumang mga kalakal at serbisyo ay magiging lubhang sagana.

Diamandis: Ikaw ay isang tao na maaaring hubugin ang hinaharap sa pamamagitan ng mga praktikal na aksyon at may matalas na pananaw sa mga uso sa hinaharap. Sa pagharap sa mabilis na pag-unlad ng kasalukuyang teknolohiya, ako ay labis na interesado sa kung gaano kalayo sa hinaharap ang sa tingin mo ay maaari mong maunawaan, iyon ay, ilang taon ng mga uso sa pag-unlad mula ngayon?

Musk: Sa panahon ng mabilis na pagbabago, ang kakayahang hulaan ang hinaharap ay lalong nagiging mahalaga. Bagama't ang hinaharap ay puno ng kawalan ng katiyakan, naniniwala ako na ang ilang mga uso ay malinaw na nakikita. Tayo ay magsisimula sa panahon ng artificial intelligence, at ang mga kakayahan nito ay aabot o malalampasan pa nga ang antas ng tao sa anumang gawaing nagbibigay-malay. Ito ay sandali lamang. Maaaring may iba't ibang pananaw ang mga tao kung ito ba ay katapusan ng susunod na taon, dalawang taon, o tatlong taon. Gayunpaman, isang bagay ang tiyak, iyon ay, hindi ito lalampas sa limang taon. Ang aking hula ay batay sa isang 50% na posibilidad, na hindi ganap. Ngunit ayon sa aking paghuhusga, ang artificial intelligence ay malamang na malampasan ang mga kakayahan ng sinumang indibidwal na tao sa ilang mga aspeto bago matapos ang susunod na taon.

Kung nahihigitan man nito ang kolektibong karunungan ng tao, maaaring mas tumagal ito. Kung magpapatuloy ang bilis ng pagbabago, tinatantya ko na sa paligid ng 2029 o 2030, malamang na malampasan ng digital intelligence ang kabuuan ng lahat ng katalinuhan ng tao. Kapag tinitingnan ang mga isyung ito, madalas kong gamitin ang paraan ng mga pangunahing ratio, tulad ng mga unang prinsipyo sa pisika. Sa pamamagitan ng pagsasama-sama ng pamamaraang ito sa pagsusuri ng posibilidad, mas tumpak nating mauunawaan ang mga uso sa pag-unlad sa hinaharap.

Kung ihahambing natin ang mga kakayahan ng digital computing sa biological computing, at isasama ang lahat ng advanced na kakayahan ng cognitive ng tao bilang isang uri ng kapangyarihan sa pag-compute, at pagkatapos ay ihambing ito sa digital computing power, makikita mo na ang growth rate ng ratio na ito ay kahanga-hanga. Samakatuwid, naniniwala ako na ang 2029 o 2030 ay isang makatwirang node ng oras. Sa oras na iyon, ang naipon na kapangyarihan ng digital computing ay malamang na malampasan ang naipon na biological computing power ng mga advanced na function ng utak. Simula noon, ang agwat sa pagitan ng dalawa ay patuloy na lalawak, at walang posibilidad na makitid.

Gayunpaman, kapag tumayo tayo sa panimulang puntong ito at umaasa sa hinaharap, paano pa uunlad ang mga bagay? Sa totoo lang, hindi ko mahulaan ang lahat ng detalye. Ngunit kung isasaalang-alang natin ang mga salik ng paglago at ang mga naglilimita sa mga salik na maaaring harapin nila, makakahanap tayo ng ilang kawili-wiling mga pahiwatig.

Noong nakaraang taon, ang mga hadlang sa supply ng chip ang pangunahing salik na naglilimita para sa pagpapaunlad ng AI. Ngayong taon, ang mga step-down na transformer ay magiging isang pangunahing bottleneck. Isipin na bawasan ang isang boltahe na 300 kilovolts sa mas mababa sa 1 bolta na kinakailangan ng isang computer. Ito ay isang malaking hamon. Samakatuwid, kailangan namin ng mas mahusay na "Mga Transformer para sa Mga Transformer", na mga step-down na transformer o AI neural network transformer. Ito ay talagang isang malaking problema sa taong ito.

Sa pag-asa sa susunod na ilang taon, ang suplay ng kuryente ay maaaring maging isang pangunahing salik sa paglilimita. Ang artipisyal na katalinuhan ay may malaking pangangailangan para sa kuryente, at ang paglipat sa napapanatiling enerhiya at ang katanyagan ng mga de-koryenteng sasakyan ay nagpatindi din ng pangangailangan para sa kuryente. Samakatuwid, dapat nating seryosong isaalang-alang kung paano matugunan ang lumalaking pangangailangan para sa kuryente upang matiyak ang patuloy na pag-unlad at paggamit ng mga teknolohiyang ito.