Павлодар облысы әкімдігі, Павлодар облысы білім беру басқармасының "Ақпараттық технологиялар жоғары колледжі" шаруашылық жүргізу құқығындағы коммуналдық мемлекеттік кәсіпорны
Коммунальное государственное предприятие на праве хозяйственного ведения "Высший колледж информационных технологий" управления образования Павлодарской области, акимата Павлодарской области
Павлодар облысы әкімдігі, Павлодар облысы білім беру басқармасының "Ақпараттық технологиялар жоғары колледжі" шаруашылық жүргізу құқығындағы коммуналдық мемлекеттік кәсіпорны
Коммунальное государственное предприятие на праве хозяйственного ведения "Высший колледж информационных технологий" управления образования Павлодарской области, акимата Павлодарской области
Жасанды тапсырмаларға арналған дербес (жұмыс үстелі) есептеу жүйесі
интеллект. Мақсаты: жергілікті ДАМЫТУ, тестілеу және AI міндеттерін орындау және
Аппараттық жеделдетуді қолдана отырып, ML (оқыту, қосымша оқыту, инференс).
Жақтауды қолдау: PyTorch, TRT-LLM және аналогтар. AI модельдерін қолдау: жоқ
200 млрд-тан аз параметрлер. Процессор: ARM үйлесімді, кем дегенде 20
есептеуіш ядролардың (өнімділігі жоғары және энергия тиімдісін қоса алғанда) не
баламасы. Тензорлық есептеулерді қолдау: 5-тен төмен емес Tensor Cores болуы
ұрпақтар немесе баламасы. Ai өнімділігі: кем дегенде 1 PFLOP ( FP4) / 1000
TOPS немесе өндіруші мәлімдеген баламалы көрсеткіш. Сәулет
жад: бір (coherent, unified) CPU және GPU жады. Жад мөлшері: кем дегенде 128
GB. Жедел жад түрі: LPDDR5x немесе баламасы. Жад шинасының разряды:
кем дегенде 256bit. Жадтың өткізу қабілеттілігі: кем дегенде 273 ГБ/ с. SSD диск:
M. 2 форматындағы NVMe SSD немесе баламасы. Көлемі: кем дегенде 1 ТБ. Сымды желі
интерфейс: Ethernet, RJ-45 қосқышы, жылдамдығы 10 Гбит/с төмен емес.
желілік адаптер: өткізу қабілеті кемінде 200 Gbps. WiFi: WiFi7-ден кем емес.
Bluetooth: кем дегенде BT 5.4. USB: кем дегенде 4 USB Type-C. Аудио шығысы: бар. Бейне шығысы: кем дегенде 1 HDMI. Қуат тұтыну: 250 Вт артық емес.
Персональная (настольная) вычислительная система для задач искусственного
интеллекта. Назначение: Локальная разработка, тестирование и выполнение задач ИИ и
ML (обучение, дообучение, инференс) с использованием аппаратного ускорения.
Поддержка фреймворков: PyTorch, TRT-LLM и аналоги. Поддержка ИИ моделей: не
менее 200млрд параметров. Процессор: ARM-совместимый, не менее 20
вычислительных ядер (включая высокопроизводительные и энергоэффективные) либо
эквивалент. Поддержка тензорных вычислений: Наличие Tensor Cores не ниже 5-го
поколения либо эквивалент. Производительность ИИ: Не менее 1 PFLOP (FP4) / 1000
TOPS либо эквивалентный показатель, заявленный производителем. Архитектура
памяти: Единая (coherent, unified) память CPU и GPU. Количество памяти: Не менее 128
GB. Тип оперативной памяти: LPDDR5x либо эквивалент. Разрядность шины памяти:
не менее 256bit. Пропускная способность памяти: Не менее 273 GB/s. SSD накопитель:
NVMe SSD формата M.2 либо эквивалент. Объем: Не менее 1 TB. Проводной сетевой
интерфейс: Ethernet, разъём RJ-45, скорость не ниже 10 Гбит/с. Высокоскоростно
сетевой адаптер: пропускная способность не менее 200 Gbps. WiFi: Не менее WiFi7.
Bluetooth: не менее BT 5.4. USB: Не менее 4 USB Type-C. Аудио-выход: есть. Видеовыход: не менее 1 HDMI. Энергопотребление: не более 250Вт.
