Zdroj:
Jakub Fišer, Chip.cz
Americký polovodičový gigant Qualcomm přivezl na veletrh Mobile World Congress (MWC) do Barcelony několik svých unikátních technologií. Zejména pak nové čipsety – a zařízení s nimi – které mají tolik výkonu, že zvládnou rozjet velké jazykové modely přímo na zařízení, tedy bez nutnosti být připojení k internetu.
Qualcomm fušuje do AI
Generativní umělá inteligence (AI) je dnes velkým trendem a vědomi jsou si toho i výrobci. Americký Qualcomm, který se věnuje především mobilním čipsetům a 5G modemům, představil na výstavišti v Barceloně své pojetí umělé inteligence.
Jeho nejnovější čipové sady totiž mají tolik výkonu, že dokáží rozběhnout jistou formu generativní inteligence přímo na zařízení, které tím pádem vůbec nemusí být připojené k internetu. Výbornou demonstrací kvality v tomto odvětví je čipset Snapdragon X Elite určený pro notebooky.
Jde o čip vyrobený společností ARM 4nm výrobním procesem. X Elite má 12jádrový procesor Oryon a jde o skutečně přelomové zařízení určené především pro AI funkce. Tento čipset půjde do prodeje – a objeví se tedy v prvních komerčních produktech – až v druhé polovině letošního roku.
Mohlo by vás zajímat
A je to tady! Lenovo skutečně představilo na MWC první průhledný displej notebooku
Snapdragon X Elite má výkon, ale…
Na veletrhu MWC 2024 jsme si však mohli vyzkoušet unikátní demo toho, jak funguje výpočet velkých jazykových modelů přímo na zařízení. K dispozici byl speciálně vyrobený počítač od Qualcommu, který disponoval právě zmíněným čipsetem. Laptop pracoval s jazykovým modelem LLaMA od společnosti Meta.
K dispozici byly dva generativní AI nástroje: chatovací robot schopný odpovídat na otázky a provádět různé operace v systému Windows 11, a také chytrý generátor obrázků. Jeho kvalita je nezpochybnitelná, dokázal generovat cokoliv od měst, zvířat, jídel, měl ale celkem zásadní problém generovat konkrétní věci, jako třeba události z nedávné doby a tak podobně.
Zbývá si odpovědět na otázku, k čemu je vlastně v praxi dobrá schopnost generovat obsah (text i obrázky) bez připojení k internetu, pomocí jazykových modelů na zařízení? V tuto chvíli ještě není komerční segment tolik závislý na AI a tudíž reálné využití se hledá těžko. Nicméně do budoucna pravděpodobně nebude složité najít tu správnou cílovou skupinu.
Zdroj: Qualcomm
 do Barcelony několik svých unikátních technologií. Zejména pak nové čipsety – a zařízení s nimi – které mají tolik výkonu, že zvládnou rozjet velké jazykové modely přímo na zařízení, tedy bez nutnosti být připojení k internetu.){kind=link}