llm (4) 썸네일형 리스트형 다이나트레이스 플랫폼의 활용 가치를 극대화하는 AI 어시스턴트 'Davis CoPilot' 정식 출시 다이나트레이스를 더 효과적으로 활용할 수 있도록 돕는 AI 어시스턴트인 Davis CoPilot이 드디어 정식으로 출시되었습니다. 이번 Davis CoPilot의 GA(General Availability) 발표를 많은 이들이 반가워하고 있습니다. 그 이유를 알아보겠습니다. 데이터 홍수 속에 늘어만 가는 분석 작업 부담 다이나트레이스는 다재다능한 옵저버빌리티(Observability) 플랫폼입니다. 인프라, 애플리케이션, 디지털 경험, 보안 등 광범위한 영역에서 옵저버빌리티를 제공합니다. 더 많은 것에 대한 옵저버빌리티를 확보할 수 있다는 것을 마다할 기업은 없습니다. 하지만 실무자 입장에서 보면 다재다능한 옵저버빌리티 플랫폼은 부담스러울 수 있습니다. 시스템, 애플리케이션, 서비스의 전반적인 상태.. 생성형 AI 시대를 위해 태어난 Red Hat Enterprise Linux AI가 특별한 이유 AI가 기업의 IT 전략에서 차지하는 비중이 커지고 있습니다. 관련해 인프라, 플랫폼 등에 대한 관심이 높습니다. AI 전략 수립에 있어 인프라와 플랫폼 사이에 위치하는 중요한 요소가 있습니다. 바로 운영체제입니다. AI 워크스테이션, 서버, 클러스터 등 규모와 관계없이 많은 조직이 운영체제로 레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux, 이하 RHEL)를 고려합니다. 레드햇은 최근 거대 언어 모델(LLM) 기반 생성형 AI 수요 증가에 발맞춰 AI 환경을 위해 특별히 만든 운영체제인 RHEL AI를 제안하고 있습니다. RHEL와 RHEL AI는 무엇이 다를까요? LLM 프로젝트를 준비하고 있다면 왜 RHEL AI가 더 나은 선택일까요? 그 이유를 간단히 알아보겠습니다. RH.. 생성형 AI 프로젝트를 성공으로 이끄는 조합 ‘Red Hat OpenShift AI + Watsonx.ai’ 최근 많은 조직이 거대 언어 모델(LLM)을 활용한 사내외 챗봇 개발과 LLM 기능을 기존 애플리케이션에 적용하는 방안을 검토하고 있습니다. 보통 개념 검증은 클라우드에서 합니다. 모든 것이 준비되어 있다 보니 데이터만 있다면 당장 시작할 수 있다 보니 클라우드에서 제공하는 LLM 모델이나 API 그리고 개발 도구를 사용하는 것입니다. 이렇게 시작하면 빠른 시간에 LLM이 과연 어떤 변화를 조직에 가져올 수 있는 지 평가하기 좋습니다. 하지만 중장기적인 관점에서 보면 사내 또는 하이브리드 환경 구축을 고민하지 않을 수 없습니다. 보안과 규제 걱정 없이 조직이 속한 산업을 위해 맞춤형으로 만들어 크기는 작지만 특정 업무 수행은 더 잘하는 도메인 특화 LLM 활용 전략을 수립하려면 사내 또는 하이브리드 환.. Red Hat Device Edge와 NVIDIA Jetson Orin, IGX Orin이 만들 AI 엣지의 미래 최근 몇 년 사이 엔터프라이즈 컴퓨팅의 주요 키워드 중 하나로 ‘엣지 컴퓨팅’을 꼽습니다. 엣지 컴퓨팅은 데이터를 서버나 클라우드로 보내지 않고 현장에서 바로 처리합니다. 엣지 컴퓨팅에 많은 기업이 관심을 두게 된 이유는 AI/ML 기술 발전에서 찾을 수 있습니다. 실제로 많은 기업이 AI/ML 모델을 엣지 장치에 배포하는 시나리오에서 새로운 가능성을 발견했습니다. 대표적인 예가 제조 현장에서 AI/ML 모델의 추론을 통해 예지 보전을 하는 스마트 팩토리 시나리오입니다. 최근에는 기업이 보유한 데이터로 최적화한 도메인 특화 거대 언어 모델(LLM)까지 가세하면서 엣지 장치의 활용 가치가 더 높아지는 분위기입니다. 제조를 예로 들자면 멀티 모달을 지원하는 도메인 특화 LLM은 현장에서 AI/ML과 컴퓨터.. 이전 1 다음
