LLMOps 를 위한 IaaS 를 제공하는 한국 AI 스타트업. 베슬에이아이 홈페이지 입니다.

VESSL AI - MLOps for high-performance ML teams
Build, train, and deploy models faster at scale with fully managed AI infrastructure, tools, and workflows.
당근의 추천시스템 구조! 예전에 당근 추천시스템 관련 글도 좋았는데.. 이렇게 영상으로도 공유해주시니 감사감사!
IF KAKAO 2024 전체 영상이 올라왔네요~! AI 를 서비스에 녹이는 노하우는 어떻게 하고 있는지 궁금했는데 카카오에서는 어떻게 하는지 MLOps 아키텍처 를 공개해주었어요. 시스템명은 '이그드라실' 이라고. (뭔가 이걸 들어본 사람들에게는 상당히 거창한 이름이라는 생각이 드는데... ㅎㅎ)
MLOps 에서 LLMOps 로 넘어갔다가 이제는 GenOps 라는 이야기. 흥미로운 개념이네요. LLMOps 라는 개념도 사실 이번에 알았음. 그냥 다 MLOps 로 부르지 않는건가..

HoJoong Kim / LLMOps는 죽었다 GenOps 만세 | 커리어리
생성형 AI를 도입하려면 언어뿐 아니라 모든 방식과 구현 방법을 처리할 수 있도록 확장할 수 있는 총체적인 ...
2 Stage (retrieval > ranking) 추천 방식 외에 filtering과 ordering Stage 고려한 추천시스템 구조. 역시 실제 상황에서는 Business 로직에 따라 filtering 되어야 하는 케이스들 고려하면서 커스터마이징 되기 시작하는데, 이런 Stage는 일반적인 추천시스템 설계시 생략될때가 많지만 의외로업무량적으로 일이 꽤 늘어나게 되더라구요.
알리바바, 페이스북 등 대표적인 글로벌 IT회사에서 추천 시스템을 어떤 구조로 가져가고 있는지 종합적으로 분석한 글의 번역. 이런 내용을 종합적으로 볼 수 있는 기회가 많지 않아 답답했었는데 너무 좋네요!
[번역글] System Design for Recommendations and Search
Eugene Yan의 원글을 허락받아 번역한 글입니다.