Специалисты Пекинской академии искусственного интеллекта объявили о создании генеративной нейронной сети глубокого обучения Wu Dao 2.0 с рекордными свойствами. Ее мощность намного больше, чем у ближайших конкурентов — Open AI GPT-3 и Google Switch Transformers.

Преимущество новой нейросети — это мощность. Они измеряется в количестве параметров обучения: то есть это число факторов, которые нейросеть может использовать в процессе своей работы.

Нейросеть Open AI GPT-3 использует 175 миллиардов параметров — такая мощность позволяет ей генерировать осмысленные тексты, создавать музыку и программный код.

Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — она в 10 раз мощнее, чем GPT-3.

Новая разработка может выполнять разные функции, она:

• пишет эссе,
• стихи и двустишия на традиционном китайском языке,
• распознает изображения и генерирует их по словесному описанию,
• имитирует речь,
• создает кулинарные рецепты,
• предсказывает трехмерную структуру белков.

Во время обучения нейросети разработчики использовали почти 5 ТБ изображения и текстов, включая 1,2 ТБ текстов на китайском и английском языках. 

ХАЙТЕК / hightech.fm