Стартап Mirai Tech Inc повідомив, що залучив $10 млн фінансування на розвиток інфраструктури, що дасть змогу запускати ШІ-моделі прямо на пристроях користувачів, замість того, щоб щоразу відправляти запити на віддалені сервери.
Стартап Mirai Tech Inc повідомив, що залучив $10 млн фінансування на розвиток інфраструктури, що дасть змогу запускати ШІ-моделі прямо на пристроях користувачів, замість того, щоб щоразу відправляти запити на віддалені сервери.
За даними допису співзасновника Mirai Дмитра Швеця в LinkedIn, інвестицію очолив фонд Uncork Capital, також долучилися бізнес-ангели, зокрема David Singleton, Francois Chaubard, Marcin Zukowski, Mati Staniszewski, Gokul Rajaram, Scott «Scooter» Braun, Vijay Krishnan, Ben Parr, Matt Schlicht, Aditya Jami й інші.
Компанія описує проблему просто: майже кожен сучасний смартфон і ноутбук уже має спеціальний ШІ-чип (прискорювач), але більшості розробників складно ним скористатися. Зазвичай потрібні окремі системні інженери, специфічні оптимізації та інтеграції під різні платформи. Mirai обіцяє прибрати цей бар’єр і зробити так, щоб підключити виконання моделі «на пристрої» можна було фактично як звичайний інструмент — у кілька рядків коду.
Після залучення коштів Mirai планує домовлятися з розробниками моделей, щоб переносити їх на пристрої в ключових сценаріях: текст, голос і комп’ютерний зір. У пості також пояснюють економіку: коли модель працює на віддалених серверах, кожен запит користувача означає витрати на оренду потужних GPU й обслуговування інфраструктури. Для продуктів у режимі реального часу це швидко стає дорогим, тоді як локальне виконання прибирає «плату за кожен запит» і зменшує затримку, бо обчислення відбуваються на телефоні або ноутбуці.
«Хмарні обчислення» в цьому контексті означають, що модель працює не на вашому пристрої, а десь у датацентрі: застосунок надсилає дані на сервер, сервер рахує відповідь і повертає результат. Підхід «on-device» робить те саме локально, використовуючи вбудовані ШІ-прискорювачі, тому сервісу не потрібно утримувати стільки серверних потужностей для кожного запиту.
Раніше dev.ua писав про те, як українська оборонна компанія «Четвертий Закон» (The Fourth Law) підприємця Ярослава Ажнюка залучила новий раунд інвестицій від американської технологічної групи Axon і представили новий модуль для дронів-перехоплювачів.
