QNAP představuje AI Service Center pro správu modelů na NAS

QNAP představuje AI Service Center: centralizovaná správa AI modelů pro NAS

Společnost QNAP, inovátor v oblasti síťových úložišť a ochrany dat, oznámila uvedení beta verze AI Service Center. Jedná se o novou platformu navrženou speciálně pro systémy NAS, která slouží jako centrální uzel pro správu lokálních i cloudových AI modelů. Cílem je eliminovat nutnost nastavovat připojení k AI službám pro každou aplikaci zvlášť a nahradit je jedním sjednoceným vstupním bodem.

Díky tomuto přístupu mohou administrátoři z jednoho rozhraní spravovat lokální modely i využití populárních cloudových služeb, jako jsou OpenAI, Azure OpenAI, Gemini či Claude. Aplikace v ekosystému QNAP, například AI asistent QuAgent nebo nástroj pro sémantické vyhledávání Qsirch, mohou nyní využívat AI prostřednictvím tohoto jednotného propojení. To znamená, že uživatel nemusí u každé aplikace znovu vybírat modely ani zadávat API klíče.

Klíčovým aspektem novinky je bezpečnost a kontrola nad daty. Při volbě lokálních modelů zůstávají veškeré požadavky i odpovědi přímo na NAS, což zajišťuje maximální ochranu citlivých informací. V případě využití cloudových služeb mají administrátoři plný přehled o limitech výdajů a mohou sledovat historii každého volání API. Podle produktové manažerky Vivian Luo tak AI Service Center umožňuje firmám i jednotlivcům využívat generativní AI s jistotou, že mají pod kontrolou tok dat i provozní náklady.

Hlavní funkce AI Service Center zahrnují:

• Knihovna lokálních modelů: možnost výběru ze seznamu ověřených modelů a určení hardwarového zrychlovače (CPU, GPU, iGPU nebo NPU). Systém se postará o automatické stažení a načtení modelu na pozadí.
• Správa cloudových poskytovatelů: propojení s API rozhraním OpenAI, Azure OpenAI, Gemini, Claude a dalšími kompatibilními službami. Uživatelé zde nastavují měsíční rozpočty a prahové hodnoty pro upozornění, přičemž API klíče jsou uloženy pouze lokálně na NAS.
• Směrování aplikací: automatická registrace instalovaných aplikací a možnost přiřazení konkrétních AI modelů k jednotlivým funkcím z jedné stránky.
• Záznamy aktivit: detailní logování každého požadavku, včetně času, použité aplikace, modelu, počtu tokenů, nákladů i latence. Data lze pro auditní účely exportovat do formátu CSV.

Z hlediska systémových požadavků je AI Service Center kompatibilní s operačními systémy QTS 6.1.0 (nebo novějšími) a QuTS hero h6.1.0 (nebo novějšími). Cloudové AI služby jsou dostupné pro NAS s architekturou x86 i ARM64 a nevyžadují přítomnost grafické karty.

Provoz lokálních modelů z knihovny je však omezen pouze na zařízení s architekturou x86. V tomto případě je nezbytná kompatibilní grafická karta (GPU) ověřená společností QNAP, spolu s odpovídajícím běhovým prostředím a balíčky AI modelů.