Ginugol ng mga ahente ng AI ang mas magandang bahagi ng dalawang taon na ipinangako bilang susunod na malaking bagay sa pag-compute. Ngayon, bigla na lang, nagsisimula na silang makaramdam ng hindi gaanong malayuang konsepto at mas parang isang bagay na talagang masusubukan ng mga user.
Ang Meta ay mayroong Muse, ang personal nitong AI agent na maaaring mag-browse sa web, mag-book ng mga appointment, mag-fill ng mga form, at magsagawa ng mga gawain sa mga konektadong serbisyo. Pinalawak ng OpenAI ang imprastraktura ng ahente nito sa Dots, habang ang mga startup tulad ng Instinct AI ay naglalagay ng mga ahente sa loob ng mga pamilyar na interface tulad ng WhatsApp at iMessage.
Ang mabilis na pag-unlad ay partikular na kapansin-pansin sa panahon ng Snapdragon Summit. Kasabay ng pagpapakita ng iba’t ibang kumpanya ng mga ahente na maaaring lalong kumilos sa ngalan ng isang user, ang Qualcomm ay gumagawa ng iba ngunit parehong mahalagang argumento: ang hardware sa ilalim ng mga ahente na ito ay sa wakas ay nakakakuha na.
Pagkatapos ng closed-door roundtable kasama si Kedar Kondap, ang SVP ng Qualcomm at GM ng Compute & Gaming, naisip ko na ang pinakamalaking tanong ay hindi kung ang mga Snapdragon PC ay maaaring magpatakbo ng mga ahente ng AI. Increasing, kaya nila. Ang mas kawili-wiling tanong ay kung ano ang mangyayari kapag naging tunay na kapaki-pakinabang ang mga ahente na iyon — at kung sino talaga ang magpapasya kung ano ang hitsura ng karanasang iyon.
Ang pagbuo ng utak ay kalahati lamang ng trabaho
Ang pinakamadaling paraan upang maunawaan ang paglipat mula sa isang chatbot patungo sa isang ahente ay ang tingnan kung ano ang mangyayari pagkatapos ng sagot: habang ang isang chatbot ay maaaring sabihin sa user kung ang isang flight ay naantala, ang isang ahente ay maaaring subaybayan ang flight, makita ang isang pagkansela, suriin ang lagay ng panahon at iskedyul, maghanap ng mga alternatibo, at humingi ng pahintulot bago mag-rebook.
Nakakuha ako ng medyo praktikal na pagpapakita ng pagkakaibang iyon sa panahon ng Snapdragon Summit, noong ang Hawaii ay nakikitungo sa Hurricane Nolo at malawakang pagkagambala sa paglipad; Nag-deploy ako ng isang ahente ng AI upang subaybayan ang sitwasyon at alertuhan ako, habang ang ilan sa aking mga kasamahan ay sumulong sa isang hakbang, gamit ang mga ahente upang tumulong sa muling pag-book ng mga flight at pag-check in. Ito ay hindi isang futuristic na demo ng Qualcomm, ngunit isang real-world na sulyap sa kung gaano kabilis lumipat ang mga ahente ng AI mula sa pagiging bago tungo sa isang bagay na talagang magagamit ng mga tao kapag may problemang lutasin.
Ngunit mayroong isang mahalagang catch: Qualcomm ay hindi maaaring magpasya kung ano ang hitsura ng ahente na iyon
Nakikita mo, ang Qualcomm ay maaaring bumuo ng mga utak – ang NPU, CPU, GPU, arkitektura ng memorya, mga runtime ng AI, at lahat ng mga tool ng developer na kailangan upang mapakanta sila. Maaari nitong ibigay sa mga developer ang reference na hardware, API, kit, at dokumentasyon bago makarating ang alinman sa mga ito sa desk ng consumer. Ngunit ang lahat ng silikon na iyon ay nangangailangan pa rin ng isang tao upang gawin itong isang karanasan na talagang gustong gamitin ng mga tao. Kung ang isang ahente ay nakatira sa loob ng Windows, Android, isang software ng OEM, o isang bagay na kasing pamilyar ng isang app sa pagmemensahe ay nakasalalay sa Microsoft, Google, mga kasosyo ng Qualcomm, at mga developer.
Iyon ang bahagyang awkward na katotohanan ng panahon ng AI PC. Magagawa ng Qualcomm ang runway. May iba pang kailangang gumawa ng sasakyang panghimpapawid. At maaaring ipaliwanag nito ang isa sa pinakamalalaking tanong sa paligid ng ahenteng AI ngayon: paano ba talaga nagde-deploy ng isa ang isang ordinaryong tao?
Ang problema sa ahente ay hindi lamang katalinuhan. Ito ay ang interface
Naging magaling na kami sa chatbot. Buksan ang ChatGPT, Gemini, o isa pang assistant, mag-type ng tanong, makakuha ng sagot, at magpatuloy sa buhay. Ang modelo ng kaisipan ay halos katawa-tawa na simple. Ang mga ahente ng AI, sa kabilang banda, ay humihiling sa amin na itapon ang pagiging simple sa labas ng bintana. Ang isang ahente ay nangangailangan ng isang layunin, pag-access sa mga tool, ilang pag-unawa sa konteksto at, higit sa lahat, pahintulot na aktwal na gumawa ng isang bagay sa ngalan ng user.
At iyon ay agad na lumilikha ng isang medyo awkward na tanong: paano nga ba talaga nagse-set up ang isang normal na tao? Sa aming pag-uusap, natural na lumabas ang isang tanong: kung alam ng isang tao kung paano magbukas ng ChatGPT, paano sila magsisimula ng isang ahente ng AI? Ang sagot ni Kondap ay nakakapreskong tapat:
“Sa tingin ko lahat ay nagsisikap na makarating doon. Sa palagay ko ay walang simpleng paraan ng pagsasabing, ‘Narito ang magiging UI at ang interface.’ “
Ito ay isang nakakagulat na tapat na pag-amin, at isang mahalagang isa. Ang paggawa ng isang ahente na mas matalino ay bahagi lamang ng palaisipan. Kailangan pa ring malaman ng isang tao kung saan ito nakatira, kung paano ito ina-activate ng mga user, anong impormasyon ang maa-access nito, anong mga tool ang magagamit nito, at, marahil ang pinakamahalaga, kung kailan ito dapat huminto at humingi ng pahintulot. Walang sinuman ang nagnanais ng ahente ng AI na may katumbas na digital na credit card at isang matinding kaso ng sigasig.
Itinuro ni Kondap ang mga demonstrasyon ng Google ng Googlebooks bilang isang halimbawa kung saan kailangang pumunta ang karanasan: isang maliit na bilang ng mga simpleng utos mula sa user, na may mas kumplikadong nangyayari sa likod ng mga eksena. “Sa tingin ko kailangan natin ang antas ng pagpapasimple,” sabi niya. At doon nagiging mas malinaw ang tungkulin ng Qualcomm. Maaaring hindi nito kontrolin ang Windows, Android, o ang panghuling interface na nakikipag-ugnayan sa mga user, ngunit masisiguro nitong handa na ang pinagbabatayan na platform ng hardware at software kapag sa wakas ay na-crack ng mga developer ang karanasang iyon.
Ang tunay na Qualcomm bet ay lokal na AI at orkestra
May ilang pakiramdam sa silid na ang ahente ng AI ay maaaring gumagalaw nang mas mabagal kaysa sa inaasahan, ngunit itinulak ni Kondap ang ideyang iyon. Mula sa pananaw ng Qualcomm, ang imprastraktura ay talagang mabilis na lumipat.
Dalawang taon na ang nakalipas, ang pagpapatakbo ng 13-bilyong parameter na modelo sa device ang benchmark. Ngayon, itinuturo ni Kondap na ang mga developer ay nagpapatakbo ng 30- hanggang 35-bilyong-parameter na mga modelo sa mga Snapdragon PC na may halos magkaparehong katumpakan, na hinimok ng mga NPU na naghahatid sa pagitan ng 45 at 85 TOPS. Ngunit habang nagiging mas mahusay ang mga modelo, ang kalamnan na iyon ay hindi nakahiwalay sa mga PC. Sa halip, nakikita ng Qualcomm ang agentic na layer na ito na lumalawak nang walang putol sa mga telepono, naisusuot, at mga smart device.
Mahalaga iyon dahil ang isang ahente ng AI ay hindi eksaktong isang magaan na chatbot na may magarbong titulo ng trabaho. Maaaring magsimula ang isang pagtuturo ng maraming modelong tawag, paghahanap, tool invocation, at desisyon, at ang pagpapadala ng bawat hakbang sa cloud ay hindi palaging ang pinakamatalinong paraan para gawin ang mga bagay. Ang latency, privacy, at ang halaga ng paulit-ulit na hinuha ay lahat ay nagsisimulang mahalaga kapag ang isang ahente ay inaasahang patuloy na gumana sa halip na sagutin lamang ang paminsan-minsang tanong. Gayunpaman, ang sagot ng Qualcomm ay hindi magpanggap na nawala ang ulap. Ito ay upang gawing isa pang matalinong bahagi ng equation ang device. Ang gustong salita ni Kondap dito ay orkestrasyon.
“Ang orkestra ay mas mahalaga.”
At doon nagiging kawili-wili ang diskarte ng Qualcomm. Ang isang telepono ay maaaring humawak ng isang magaan na gawain, ang isang naisusuot ay maaaring kumuha ng konteksto, ang isang PC ay maaaring pumalit kapag ang isang workload ay nangangailangan ng higit na memorya o thermal headroom, at ang ulap ay maaaring pumasok kapag may nangangailangan ng isang mas malaking modelo ng pangangatwiran. Ang ahente ay epektibong nagiging traffic cop, na nagpapasya kung aling device at kung aling layer ng compute ang dapat humawak sa trabaho. Iyan ay isang mas kawili-wiling panukala kaysa sa simpleng pag-cram ng isang mas malaking NPU sa isang laptop at tawagin itong AI PC.
Talagang sinusubukan ng Qualcomm na gawing bahagi ng toolbox ng ahente ang buong ecosystem ng device. Ang mga demonstrasyon ng kumpanya sa Snapdragon Summit ay nagpakita sa mga developer na nag-eeksperimento na sa mga on-device na ahente, habang ang platform nito ay nagbibigay sa kanila ng mga tool sa hardware at software para bumuo ng mga karanasang iyon.
Mayroong praktikal na dahilan upang panatilihin ang kahit ilan sa mga lokal na intelligence na iyon: ang mga pribadong file, personal na konteksto, at pang-araw-araw na hinuha ay hindi kinakailangang mag-ikot sa isang malayong server. Sa madaling salita, hindi talaga nakikipagtalo ang Qualcomm para sa lokal na AI kumpara sa cloud AI. Pinagtatalunan nito ang isang ahente na nakakaalam kung kailan gagamitin ang dalawa.
Ang hindi komportable bit: tiwala
Kapag nagiging mas kapaki-pakinabang ang isang ahente, mas kailangan nitong malaman ang tungkol sa taong gumagamit nito. At doon ay medyo hindi komportable ang mga bagay. Ang isang chatbot ay maaaring masayang sumagot ng mga tanong nang hindi alam ang tungkol sa gumagamit nito. Ang isang tunay na kapaki-pakinabang na ahente, gayunpaman, ay maaaring mangailangan ng access sa mga email, kalendaryo, mga file, mga plano sa paglalakbay, at potensyal na kahit na mga sistema ng pagbabayad. Ang mas maraming konteksto ay ginagawang mas matalino at mas kapaki-pakinabang ang isang ahente, ngunit nangangahulugan din ito na ang mga pagkakamali nito ay maaaring maging higit na kahihinatnan.
Ang paghahambing ni Kondap para dito ay nakakagulat na nauugnay: online banking. Hindi kami palaging kumportable sa paglalagay ng mga detalye ng credit card sa isang telepono o pagtitiwala sa isang screen upang maglipat ng pera. Sa paglipas ng panahon, ginawa ng pagpapatotoo, mga pahintulot, at mga sistema ng seguridad na halos nakakainip na ang mga digital na pagbabayad. Ang mga ahente ng AI ay maaaring dumaan sa isang katulad na pagsasanay sa pagbuo ng tiwala, lalo na kapag sila ay nagtapos mula sa pagsagot sa mga tanong hanggang sa aktwal na paggawa ng mga bagay para sa atin.
“Lahat kami ay komportable sa paglalagay ng aming mga credit card sa aming mga telepono gamit ang pagbabayad. Lahat kami ay kinakabahan noong una itong pumasok.”
Ngunit mayroong isang mahalagang pagkakaiba: ang isang ahente ng AI ay hindi lamang nagpoproseso ng isang transaksyon. Ito ay pagbibigay-kahulugan sa layunin at paggawa ng mga pagpapasya sa daan. Kung mali ang pagkaunawa nito sa isang tagubilin, magpadala ng maling email, mag-book ng maling flight, o bumili ng hindi dapat, ang malinaw na tanong ay: sino ang sisihin? Ang gumagawa ng device? Ang operating-system provider? Ang developer ng AI model? Ang developer ng ahente? O ang gumagamit na nagtiwala dito sa unang lugar? Walang halaga ng NPU horsepower ang sasagot sa isang iyon.
Kinikilala ni Kondap na ang tiwala ay hindi magkakatotoo sa magdamag, at siya ay maingat na hindi magkunwaring nalutas na ito ng Qualcomm. Ang kanyang pananaw ay magiging mas komportable ang mga user habang ang ecosystem ay nagtatatag ng mas malinaw na mga hangganan sa paligid kung ano ang maa-access ng mga ahente, kung ano ang magagawa nila, at kapag kailangan nila ng pahintulot. Maaaring buuin ng Qualcomm ang makina sa pagpoproseso, i-optimize ang mga modelo at bigyan ang mga developer ng mga tool upang patakbuhin ang mas may kakayahang AI sa lokal, ngunit ang pagtitiwala ay hindi isang bagay na maipapadala ng silicon sa kahon. Dapat itong makuha ng buong ecosystem.
Ang AI agent bet ng Qualcomm ay mas malaki kaysa sa PC
Sa huli, iyon ang dahilan kung bakit mas kawili-wili ang diskarte ng Qualcomm sa agentic AI kaysa sa simpleng paglalagay ng mas mabilis na NPU sa loob ng isang laptop. Ang PC ay maaaring maging lokal na utak sa isang mas malaking ecosystem ng mga telepono, baso, naisusuot, at mga serbisyo sa cloud, kung saan ang bawat device ay nag-aambag sa pag-compute o konteksto na pinakaangkop na ibigay. Nakikita ng Kondap na may papel ang bawat device, kasama ang PC na nagsasagawa ng mga workload na hindi kayang hawakan ng mas maliliit na device sa thermally, habang ang cloud ay nananatiling available kapag may nangangailangan ng higit pang kapangyarihan sa pag-compute.
Ang kabalintunaan ay ang pinakamahusay na ahente ng PC ay maaaring sa huli ay hindi gaanong mahalaga ang PC mismo. Sa halip na magbukas ng mga application, lumipat sa pagitan ng mga bintana at manu-manong pagsasama-sama ng impormasyon, ang user ay maaaring magpahayag lamang ng isang layunin at hayaan ang system na gawin ang iba. Lumilitaw na naniniwala ang Qualcomm na ang silikon ay sa wakas ay naghahanda na para sa hinaharap na iyon. Ngayon ay nangangailangan ito ng mga operating system, OEM, developer, at, sa huli, ang mga user upang magpasya kung ano ang mangyayari kapag huminto ang computer sa paghihintay ng mga tagubilin at nagsimulang kumilos.
Ang PC ay gumugol ng ilang dekada sa pagtatanong sa mga user kung ano ang susunod na gagawin. Ang panahon ng ahente ay maaaring sa wakas ay i-flip ang script, at nais ng Qualcomm na maging handa ang Snapdragon kapag nangyari ito.
