HPE한국어 LLM 솔루션으로 손쉽게 AI 도입하기

장은영
2024-08-23
조회수 580
AI 도입, 이제는 선택이 아닌 필수!
한국어 LLM 솔루션으로 AI 비즈니스 성공을 앞당기세요.


최근 몇 년간 AI 기술은 비즈니스에서 빼놓을 수 없는 중요한 요소로 자리 잡았습니다.

더불어 각 기업에서는 AI 도입 붐이 일어나고 있죠!


하지만 AI를 도입하기 위해서는 적절한 인프라와 데이터 구축 방법, 그리고 필요한 예산을 고려해야 합니다. 

또한, 어떤 AI 솔루션이 우리 회사에 적합할지 결정하는 것도  가장 중요한 과제일 거에요.


이러한 고민을 한 번에 해결해 줄 수 있는 혁신적인 솔루션 패키지가 있습니다.

바로 HPE, 동국시스템즈, 바이브컴퍼니가 협업하여 출시한 HPE KorLLM Appliance입니다.

그럼 오늘은 따끈따끈하게 막! 출시된 HPE KorLLM을 소개해드리겠습니다.



All-in-One AI Solution Package


HPE KorLLM Appliances는 AI 도입에 필요한 모든 요소를 하나의 패키지로 제공합니다.

이 패키지를 활용하면 검색부터 대화형 인공지능, LLM 구축까지 다양한 기술을 올인원으로! 한번에! 손쉽게 도입할 수 있어요.

특히 각 기업의 요구사항에 맞춘 고객 맞춤형 서비스 구축까지 가능하며, 한국어에 특화된 LLM은 영어 기반의 다른 생성형 AI보다 더 빠르고 정확한 정보 생성을 가능하게 합니다. 

그리고 이 패키지를 출시하기 위해 협력한 3곳의 회사는 아래와 같은 역할을 진행해준답니다!


✅ HPE는 

엔비디아 GPU를 탑재한 고성능 서버 'HPE Cray XD670'과 'HPE  ProLiant DL380a Gen11' 서버를 지원하며, 이들은 대규모 AI 모델의 학습 및 추론 작업에 최적화되어 있습니다.


✅바이브컴퍼니는 

자동 질의응답 시스템인 '서치 GPT', 일상 대화가 가능한 '스마트챗' 등을 개발한 국내 최고의 ISV사인 데요. 이러한 솔루션을 활용하여 고객 필요에 따라 설계할 수 있는 LLM 솔루션를 구축합니다.


✅ 동국시스템즈는 

서버 장비부터 솔루션 구축, 서비스 지원까지 One-Stop 통합 지원 서비스를 진행합니다.  하드웨어, 솔루션 등 어떤 곳에서 문제가 생겨도 동국시스템즈에서 해결해드릴게요.



HPE KorLLM Appliance

HPE KorLLM Appliance는 현재까지 아래의 3개의 제품으로 출시가 되었고, 각 제품별 특징과 구성 옵션을 설명드리겠습니다.


✅ HPE SearchGPT

고도화된 한국어 언어모델 기반의 검색 솔루션으로, 빠르고 정확한 검색 결과를 제공합니다.


✅ HPE SmartChat

맞춤 정보를 빠르고 정확하게 전달하는 한국어 LLM 기반의 챗봇 솔루션입니다.


✅ GeM2 (Pretrain Package)

고객의 특화된 요구에 맞춰 LLM을 쉽게 구축할 수 있는 솔루션입니다.


HPE SeachGPT & HPE SmartChat

HPE KorLLM Appliance는 다양한 규모의 기업에 맞게 선택할 수 있는 여러 가지 구성을 제공합니다.

엔트리급에서 대규모 시스템까지, 각각의 필요에 맞춰 최적화된 하드웨어와 소프트웨어로 구성되어 있습니다.


✔️ Small Scale

25명의 동시 접속자를 지원하는 시스템

서버 : HPE ProLiant DL380a Gen11

GPU : NVIDIA L40S GPU 4개


✔️ Medium Scale

50명의 동시 접속자를 지원하는 시스템

서버 : HPE ProLiant DL380a Gen11

GPU : NVIDIA H100 NVL GPU 4개


✔️ Large Scale

100명의 동시 접속자를 지원하는 시스템

서버 : HPE Cray XD670

GPU : NVIDIA H100 SXM5 GPU 8개


GeM2 Pretrain Package

고객 맞춤형 LLM 구축을 위해,  HPE Cray XD670 서버와 HPE Cray ClusterStor E1000 스토리지로 하드웨어가 구성되어 있습니다. 특히 더욱 강력한 성능을 위해 NVIDIA GPU는 H100 SXM5 8개가 포함됩니다!


간단하게 표로도 정리 드립니다. 🙂


또한 HPE KorLLM Appliance는 고객 맞춤형 UI 및 커스터마이제이션 서비스를 제공하기 때문에,

각 기업의 특화된 요구를 충족시킵니다. 

커스터마이제이션된 각 기업의 서비스를 확인해보세요!



그리고 좀더 자세한 내용이 궁금하시다면, 

디케이앤유의 AI 솔루션 패키지 게시판에서 각 어플라이언스 별 자세한 내용예상 비용까지 확인하실 수 있습니다.

다만 비용은 고객사별 데이터의 형태와 양에 따라 달라질 수 있으니, 참고용으로만 봐주시면 좋을 것 같습니다. 😊


HPE KorLLM 솔루션 패키지 자세히 보기




여기까지 HPE KorLLM에 대해 소개해드렸습니다.

그리고 이미 다양한 정부 기관 및 기업들이 한국어 LLM을 도입하여 성공적으로 운영하고 있어, 동종 업계의 성공 사례들도 정말~많이~ 보유하고 있습니다.


이곳에 오픈하긴 어렵지만.. 동국시스템즈로 상담 요청해주시면 업계 사례를 공유드리고, 

AI 구축을 위한 컨설팅을 진행드리겠습니다!

언제든지 편하게 문의 주세요. 🙂


🧑‍🦰동국시스템즈 강재구 부장 jaegoo1.kang@dongkuk.com 

디케이앤유 문의하기


마지막으로! 전달해드릴 내용이 있어요.

동국시스템즈는 HPE KorLLM 출시를 기념하여 다양한 이벤트를 통해 고객들과 직접 소통하려고 준비 중인데요.

8월 28일에는 세종시에서  디지털플랫폼정부 미래전략 컨퍼런스에서 HPE KorLLM을 홍보하는 부스를 운영하고,  


디지털플래폼정부 미래전략 부스 백월 컨텐츠


9월 12일엔 HPE KorLLM 런칭 세미나를 예정하고 있습니다!

HPE KorLLM 런칭 세미나 EDM 


이런 행사를 통해 동국시스템즈가 고객 맞춤형 AI 컨설팅을 제공할 예정입니다.

관심이 있으신 분들은 아래 링크로 문의해 주시면 자세한 행사 정보를 안내해드리겠습니다. 😊


행사 문의하기 



한국어 LLM 솔루션으로 손쉽게 AI 도입하시면, 귀사의 비즈니스 효율성을 극대화하고, 경쟁력을 높일 수 있습니다.

동국시스템즈의 HPE KorLLM Appliance는 AI 도입을 원하는 모든 기업에게 완벽한 올인원 AI 솔루션을 제공합니다. 

신뢰할 수 있는 한국어 LLM 솔루션으로 AI 비즈니스 성공을 앞당기세요! 


한국어 LLM 솔루션 문의하기 




#AI #HPE #NVIDIA #동국시스템즈 #GPU #KorLLM #LLM #AI비즈니스 #AI Enterprise #NIM #AI구축 #AI컨설팅 #AI사례 #AI구축사례 #AI도입 #AI도입사례 #한국어LLM #HPE KORLLM #LLM솔루션 #AI솔루션 도입  

     

이용약관 ㅣ 개인정보취급방침 ㅣ 마케팅활용동의

동국시스템즈 ㅣ 주소: (04539)서울특별시 중구 을지로5길 19 페럼타워 9층  대표이사: 김오련

사업자등록번호: 102-81-42611  전화: 02) 2101-0900  팩스: 02) 3789-8780 Copyright 2020 DONGKUK SYSTEMS  All rights reserved