Google Cloud и Oracle объявили, что начнут развёртывать ускорители Google TPU в Oracle Cloud Infrastructure в 2027 году. OCI станет первым крупным облачным провайдером за пределами Google, который предложит клиентам эти специализированные чипы для задач искусственного интеллекта.
TPU предназначены для обучения моделей и обработки запросов к ним. В OCI они будут доступны наряду с GPU, чтобы заказчики могли выбирать ускоритель для разных этапов работы. По замыслу компаний, размещение TPU рядом с корпоративными базами данных Oracle позволит выполнять дообучение и обработку запросов без переноса данных в другое облако.
Для разработчиков Google предлагает собственный стек TorchTPU с открытым исходным кодом и поддержкой PyTorch. В объявлении также перечислены инструменты vLLM, SGLang, Ray и Hugging Face, с которыми можно обучать и запускать модели на TPU.
Сеть Oracle Acceleron свяжет TPU-кластеры с остальной инфраструктурой OCI. Отдельно Oracle представила новые сетевые возможности для ИИ: подключение RDMA, библиотеку коллективных коммуникаций и выбор исправных маршрутов при отказах сетевого оборудования. Эти функции предназначены для распределённых вычислений, в которых одновременно работают тысячи ускорителей.
