Замислете уред со големина на мобилен телефон кој може да се носи в џеб, и кој во себе ја поседува моќта на вештачка интелигенција за која до вчера беа потребни огромни серверски простории. Се чини дека оваа визија станува реалност со претставувањето на AI Pocket Lab (Tiny AI) од страна на компанијата SambaNova Systems, позната по развој на специјализирани AI чипови и платформи за „генеративна“ и „агентска“ интелигенција. Уредот е веќе запишан во Гинисовата книга на рекорди како најмалиот мини-компјутер во светот, способен локално да покрене модели со над 100 милијарди параметри.
Џин во минијатурни димензии
Овој уред (со димензии од само 14.2 × 8 × 2.53 cm) не е обичен гаџет. Неговите спецификации се импресивни за неговата големина:
- Меморија: Неверојатни 80 GB RAM.
- Процесор: 12-јадрен ARM процесор.
- Технологија: Користи петта генерација AI чип (SN50 RDU) со висока брзина и енергетска ефикасност и TurboSparse архитектура која овозможува локално извршување на модели со 120 милијарди параметри (120B).
Според извештаите на Live Science и PR Newswire, овој уред достигнува брзина од 20+ токени во секунда, што значи дека одговара на вашите прашања речиси во реално време, без никаква потреба од интернет конекција. Како негова основна карактеристика се истакнува т.н. „Докторска интелигенција“, термин што укажува на способност за решавање комплексни задачи на ниво на експерт.
Споредба: Традиционален суперкомпјутер наспроти „Џебниот“ систем
| Карактеристика | Традиционален суперкомпјутер | Џебен суперкомпјутер (SambaNova) |
| Големина | Огромни дата-центри | Пренослив, го собира во џеб |
| Енергија | Екстремно висока потрошувачка | Оптимизирана и многу ниска |
| Моќност | Петафлопи (неограничена моќ) | Ограничена, но високо ефикасна |
| Пристапност | Само за институции и војска | Потенцијално достапен за секого |
| Примена | Глобална наука и индустрија | Персонални и мобилни AI задачи |
Меѓу приватноста и реалноста: „Sovereign AI“ под лупа
Главниот адут на AI Pocket Lab е ветувањето за целосна офлајн приватност. Додека гигантите како OpenAI и Google ги процесираат вашите податоци на нивните сервери, овој уред го прави тоа локално. Ова го позиционира како идеален „суверен“ асистент за истражувачи, програмери и професионалци кои ракуваат со доверливи информации и не сакаат да зависат од интернет конекција или туѓи облак-сервери.
Сепак, каде што има големи ветувања, има и сериозни прашања. Технолошката заедница веќе посочува на неколку клучни ограничувања и ризици:
- Маркетинг наспроти реалноста: Терминот „докторска интелигенција“ е моќна метафора, но не е научна мерка. Тоа укажува на логички капацитет, но не гарантира дека уредот поседува реално знаење на специјалист во секоја област.
- Предизвикот на скалабилноста: Прашање е дали хардвер со овие димензии може конзистентно да се справува со комплексни задачи на ниво на модели како GPT-4o или медицински системи без прегревање или забавување.
- Етички и безбедносни дилеми: Преносливите уреди со ваква моќ отвораат прашања за потенцијална злоупотреба, приватност и потреба од регулација за системи кои работат целосно надвор од мрежниот надзор.
Револуција или само „hype“?
Иако сертификатот од Гинис е импресивен, скептицизмот останува присутен. Со цена од 1.400 долари и одредени одложувања во испораката, многумина се прашуваат дали перформансите на TurboSparse технологијата во реални услови ќе ги оправдаат очекувањата. Корисниците и аналитичарите допрва ги чекаат првите независни бенчмарк тестови.
Додека најавите за овој уред кон крајот на 2025 година звучеа како далечна научна фантастика, денес, со Гинисовиот рекорд во рака и првите реални тестирања, AI Pocket Lab е веќе опиплива технологија. За ИТ заедницата, ова е јасен сигнал дека фокусот на вештачката интелигенција полека се префрла од далечните „cloud“ сервери кон локална, суверена моќ која не познава граници – ниту пак бара интернет конекција.
Сепак, во оваа фаза, овој импресивен напредок е повеќе симболичен чекор кон иднината отколку моментална секојдневна револуција. Вистинскиот пресврт ќе се случи дури кога ваквите уреди ќе станат масовно достапни и кога ќе ја докажат својата практична моќност надвор од маркетиншките слогани. Дотогаш AI Pocket Lab останува фасцинантен потсетник дека суперкомпјутерот на иднината веќе не е само во некоја огромна хала, туку е „паркиран“ во нашиот џеб.