알림
뒤로

AI 패키지 솔루션


AI 구축 및 도입에 필요한 모든 사항을 패키지 솔루션으로 제공합니다.
AI 서버/스토리지/네트워킹 및 서비스까지 All-in-One으로 AI를 구축하세요.

AI 패키지 솔루션

AI 구축 및 도입에 필요한 모든 사항을 패키지 솔루션으로 제공합니다.
AI 서버/스토리지/네트워킹 및 서비스까지 All-in-One으로 AI를 구축하세요.

HPE KorLLM Appliance 구성 Detail

패키지
구성
항목


  • 국내외 유명 Open source LLM 기반
  • Task Oriented & Domain knowledge based
  • 한국어 특화 모델
  • HPE SmartChat
  • LLM 기반 챗봇 서비스
  • 일상 대화 및 시나리오 대화 기능
  • K-Search on HPE 연동
  • OpenAPI 기반 연계 서비스 제공
  • HPE SearchGPT
  • RAG 기반 질의응답 서비스
  •  Private data를 통한 RAG 및 Inferencing 구축
  • API 기반 서비스 연동
  • 데이터 수집 및 전처리 지원
  • GeM2
    On-prem 기반의 Private LLM 구축
  • 12.8B 이상 대형 모델 + Finetune / Pretrain
  • Prompt를 통한 다양한 Task 지원
  • 데이터 전처리 및 Training 지원
HW spec by CCU
 <25 CCU>
HPE ProLiant DL380a w/ 4x L40S 48GB Intel Gold 6430 32c with 512GB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic
 <50 CCU>
HPE ProLiant DL380a w/ 4 x H100 94GB Intel Gold 6430 32c with 1TB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic
 <100 CCU>
HPE Cray XD670 w/ H100 SXM5 8 way Intel Platinum 8462Y+40c with 1TB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic

HPE KorLLM Appliance 구성 Detail

패키지 구성 항목 


  • 국내외 유명 Open source LLM 기반 
  • Task Oriented & Domain knowledge based
  • 한국어 특화 모델
  • HPE SmartChat
  • LLM 기반 챗봇 서비스

  • 일상 대화 및 시나리오 대화 기능
  • K-Search on HPE 연동
  •  OpenAPI 기반 연계 서비스 제공
  • HPE SearchGPT
  • RAG 기반 질의응답 서비스

  •  Private data를 통한 RAG 및 Inferencing 구축
  •  API 기반 서비스 연동 
  • 데이터 수집 및 전처리 지원
  • GeM2 On-prem 기반의 Private LLM 구축

  •  12.8B 이상 대형 모델 + Finetune / Pretrain
  •  Prompt를 통한 다양한 Task 지원
  • 데이터 전처리 및 Training 지원
HW spec by CCU
 <25 CCU>
HPE ProLiant DL380a w/ 4x L40S 48GB Intel Gold 6430 32c with 512GB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic
 <50 CCU>
HPE ProLiant DL380a w/ 4 x H100 94GB Intel Gold 6430 32c with 1TB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic
 <100 CCU>
HPE Cray XD670 w/ H100 SXM5 8 way Intel Platinum 8462Y+40c with 1TB RAM NVIDIA ConnectX-7 NDR 400Gb 1port 3-year Tech Care Basic

HPE KorLLM Appliance 사용 예시

※ HPE KorLLM Appliance는 SearchGPT과 SmartChat를 조합하는 것을 권장합니다.

※ HPE KorLLM Appliance에는 생성 결과의 정확성과 신뢰성이 향상된, 한국어 특화 AI 언어모델인 GeM2가 기본 탑재됩니다.

HPE KorLLM Appliance 사용 예시

※ HPE KorLLM Appliance는 SearchGPT와 SmartChat을 조합하는 것을 권장합니다.

※ HPE KorLLM Appliance에는 생성 결과의 정확성과 신뢰성이 향상된, 한국어 특화 AI 언어모델인 GeM2가 기본 탑재됩니다. 

HPE SearchGPT / SmartChat
구축 Flow

Plan 수립


Appliance 발주

사용자 수 확정 시 사전 준비된 H/W가 빠르게 발주, 입고 진행

Data 구축

고객 사전 Data 준비 사항에 따라 작업 내용, 전처리 작업 달라짐(도입 기간, 투입 M/M 결정 중요 요소)

Appliance Install


AI 학습

준비된 전처리 Data 이용하여 학습 수행, 최적 Appliance H/W에 학습 결과 저장

서비스 준비

사용자 서비스 UI 개발 등

서비스 Open

HPE Pre-Training Package

구축 Flow

Plan 수립


Appliance 발주

사용자 수 확정 시 사전 준비된 H/W가 빠르게 발주, 입고 진행

Data 구축

고객 사전 Data 준비 사항에 따라 작업 내용, 전처리 작업 달라짐(도입 기간, 투입 M/M 결정 중요 요소)

Appliance Install


AI Application 개발

구축된 AI 모델 활용 Application 개발 과정

AI 학습

준비된 전처리 Data 이용하여 학습 수행, 최적 Appliance H/W에 학습 결과 저장

서비스 준비

사용자 서비스 UI 개발 등

서비스 Open

※ Appliance 도입 시 추가 고려 사항

- 보유(활용) 데이터, 데이터 범위/포멧/수량, 전처리, 데이터 증식, 지식검증, Pre-training/Fine-tuning 여부 등에 따라서 Appliance 도입 전체 일정 및 추가 공수 발생할 수 있습니다.

 
- 서비스 시나리오 기획, 검토 등 컨설팅은 무료로 제공합니다.

※ Appliance 도입 시 추가 고려 사항

- 보유(활용) 데이터, 데이터 범위/포멧/수량, 전처리, 데이터 증식, 지식검증, Pre-training/Fine-tuning 여부 등에 따라서 Appliance 도입 전체 일정 및 추가 공수 발생할 수 있습니다.
- 서비스 시나리오 기획, 검토 등 컨설팅은 무료로 제공합니다.

     

이용약관 ㅣ 개인정보취급방침 ㅣ 마케팅활용동의

동국시스템즈 ㅣ 주소: (04539)서울특별시 중구 을지로5길 19 페럼타워 9층  대표이사: 김오련

사업자등록번호: 102-81-42611  전화: 02) 2101-0900  팩스: 02) 3789-8780 Copyright 2020 DONGKUK SYSTEMS  All rights reserved