На минулому тижні компанія Google ненав’язливо представила додаток, який дозволяє користувачам запускати різноманітні відкриті моделі штучного інтелекту з платформи Hugging Face на їхніх мобільних пристроях.
Додаток, що отримав назву Google AI Edge Gallery, наразі доступний для Android, а незабаром з’явиться і для iOS. Він дозволяє знаходити, завантажувати та запускати сумісні моделі, які генерують зображення, відповідають на запитання, пишуть і редагують код, та багато іншого. Моделі працюють офлайн, без необхідності підключення до Інтернету, використовуючи процесори підтримуваних телефонів.
Моделі штучного інтелекту, що працюють у хмарі, зазвичай мають більшу потужність, але не позбавлені недоліків. Деякі користувачі можуть побоюватися передавати особисті або конфіденційні дані до віддаленого центру даних або бажати мати моделі під рукою без потреби шукати підключення до Wi-Fi або мобільної мережі.
Google AI Edge Gallery, яку компанія називає “експериментальним Alpha випуском”, можна завантажити з GitHub, дотримуючись певних інструкцій. Головний екран містить ярлики для завдань і можливостей штучного інтелекту, такі як “Запит на зображення” та “Чат з AI”. Натискання на можливість відкриває список моделей, що підходять для виконання завдання, наприклад, Gemma 3n від Google.
Google AI Edge Gallery також має функцію “Лабораторія Запитів”, яка дозволяє користувачам реалізовувати “односторонні” завдання за допомогою моделей, наприклад, підсумовувати та переписувати тексти. Лабораторія Запитів постачається з кількома шаблонами завдань та налаштованими параметрами для точного налаштування поведінки моделей.
Компанія попереджає, що ефективність може варіюватися. Сучасні пристрої з потужнішим обладнанням, як правило, працюють швидше з моделями, однак розмір моделі також має значення. Великі моделі потребують більше часу для виконання завдання — наприклад, відповідь на запитання про зображення — у порівнянні з меншими моделями.
Google запрошує членів розробницької спільноти дати зворотний зв’язок щодо досвіду використання Google AI Edge Gallery. Додаток має ліцензію Apache 2.0, що дозволяє використовувати його в більшості контекстів — комерційних або інших — без обмежень.
