Projetado pela start-up americana Tiiny AI, este compêndio de tecnologia mede 14,2 x 8 x 2,5 cm e pesa 300 gramas, podendo portanto caber facilmente no bolso ou na palma da mão. Apesar do seu pequeno tamanho, o dispositivo pode executar localmente modelos de linguagem com mais de 120 bilhões de parâmetros completamente offline, alcançando velocidades decodificação no mundo real de mais de 20 tokens por segundo e fornecendo ao usuário exploração de IA sem assinatura.
Pequeno, mas poderoso
Para funcionar, o Tiiny AI Pocket Lab é equipado com um processador BRAÇO com 12 núcleos e um NPU entregando de 160 a 190 Tops. O sistema integra 80 GB de RAM LPDDR5X, exclusiva para esse formato. O dispositivo suporta modelos código aberto, como Lhama, Qwen, DeepSeekMistral, Phi e GPT-OSS, através de instalação com um clique, com atualizações OTA (Acima doAr) regulares.
Além disso, duas tecnologias internas melhoram a eficiência ao distribuir cargas de trabalho e reduzir ativações desnecessárias. O TurboSparse gerencia atividades neurais esparsas para preservar a capacidade e, ao mesmo tempo, melhorar a velocidade, enquanto o PowerInfer distribui cálculos entre a CPU e a NPU.
Muitas vantagens
Graças à sua potência, leveza e portabilidade, o dispositivo pode funcionar em qualquer lugar, seja no trabalho, em casa ou durante viagens, onde outras soluções exigem compromissos entre mobilidade e eficiência.
Outro ponto forte, o Laboratório de bolso Tiiny AI foi projetado para ser utilizado sem treinamento técnico prévio, graças a uma interface intuitiva, controles claros e feedback visual simples e compreensível que facilita o uso.
Por fim, o dispositivo possui recursos de aprendizagem que evoluem a funcionalidade ao longo do tempo, raciocínio em várias etapas que proporciona melhor desempenho em tarefas complexas e criptografia de dados de nível bancário que garante confidencialidade total.
Um lançamento planejado para o próximo mês
Com todas estas vantagens, esta inovação poderá tornar-se a nova referência para dispositivos portáteis de análise inteligentes. Os primeiros modelos serão oferecidos no Kickstarter em fevereiro próximo. Você terá que pagar $ 1.399 para adquirir um Laboratório de bolso Tiiny AIo que é um preço mais do que razoável se considerarmos que os 80 GB de memória LPDDR5X presentes em seu shell valem quase US$ 900 sozinhos.
Este preço deliberadamente baixo visa encorajar a adopção doIA local pelo público em geral, longe de servidores caro, enquanto as questões de segurança de dados privados e de relação custo-eficácia dos serviços em nuvem tornaram-se importantes.