뉴스
액셀과의 협업을 통한 AI 서버 활용 온프레미스、클라우드 모두에 해당하는 LLM 데모 제공 알림
2024.10.18 릴리즈
우리 그룹은、고속 룰렛 게임 사이트 및 이미지 처리 기술 분야에서 세계를 선도하는 LSI 사업、AI/IoT 솔루션을 제공하는 AIOT 사업、AI용 GPU 탑재기 등 서버 제공 사업을 3개 기둥으로 사업 전개하고 있습니다만、이번、주식회사 액셀(본사:도쿄도 지요다구、대표자: 사이토 아키히로、이하 "가속")과의 협업으로、AI 서버 활용、온프레미스、클라우드를 모두 지원하는 대규모 언어 모델(LLM: Large Language Model)을 활용하는 방법에 대한 데모를 제공하기로 결정했습니다.、알림。
또한、이 시연은、2024년 10월 23일(수)부터 25일(금)의 기간에 마쿠하리 멧세에서 개최되는 Japan IT Week에 출전됩니다。
「데이터 센터 EXPO」(Japan IT Week) 개최 개요
회기:2024년 10월 23일(수)~25일(금)
시간: 10:00~18:00(마지막 날만 17:00 종료)
장소: 마쿠하리 멧세
부스 번호: 홀 1 A3-8
이번、악셀과 당사의 협업에서 제공하는 데모에서는、엑셀의 독자적인 기술인 에지 추론을 위한 AI 프레임워크(미들웨어) "ailia SDK"를 기반으로 개발한 AI 애플리케이션의 ailia DX Insight의 AI 서버에서의 동작을 시뮬레이션하는 것입니다。ailia DX Insight는 로컬 LLM도 지원합니다、클라우드뿐만 아니라、완전히 로컬 및 온프레미스 상태의 AI 서버에서 LLM을 실행할 수 있는 솔루션입니다。
이것은 금융 기관 등의 고객 정보, 신용 정보 및、최첨단 연구 개발을 실시하는 기업 등의 기술 정보 등、사내에서만 닫힌 데이터베이스를 기반으로 로컬 LLM을 구축하여、공개 네트워크에서 검색결과를 숨기고 싶은 사용자에게 편리함과 옵션을 제공합니다。물론 클라우드 등에 접속하면 Chat GPT 등의 LLM도 활용할 수 있습니다。
더、Chat GPT에서 지원되지 않는 검색 확장 생성(RAG: Retrieval-Augmented Generation)을 사용하여、보다 광범위한 정보를 LLM으로 정리할 수 있습니다。예:、제품 사용설명서를 사용하면 사용방법 질문에 답할 수 있는 AI Chatbot 등의 AI 서비스를 구축할 수 있습니다。 AI optimized Server(NVIDIA의 GPU H100 포함)
'ailia DX Insight'는、액셀 그룹이 자체 개발한 기업의 디지털 변환(DX)을 지원하는 AI 앱。Windows 및 macOS의 네이티브 앱으로 구현 중、기업 정보를 한 번의 클릭으로 데이터베이스에 등록、등록한 정보에 대해 ChatGPT 등의 자동 생성 AI를 활용한 Q&A 가능。또、로컬 LLM(대규모 언어 모델)을 활용하여、기업 내 네트워크의 폐쇄 환경에서도 생성 AI를 활용하여 업무 효율화를 실현할 수 있습니다。이 외、AI를 사용한 고정밀 음성 인식을 통한 회의록 작성 및、텍스트에서 이미지 검색、OCR 등、편리한 AI 기능이 여러 개 탑재되어 있습니다、이 기능은 앞으로도 계속 추가될 예정。AI를 활용한 기업 DX의 모든 것을 "ailia DX Insight" 하나로、일괄적으로 수행할 수 있습니다。
가속 정보
가속은、고급 알고리즘 개발부터 제품화를 담당하는 소프트웨어 하드웨어 개발까지 일관된 개발 체제를 보유한 첨단 기술 기업입니다。대규모 LSI 설계 개발 외에도、AI, 암호화, 블록체인 기술 등의 첨단 기술을 사회 구현함으로써、디지털 기술을 통한 비즈니스 개혁에 기여합니다。 https://www.axell.co.jp/
