소프트웨어(SW)를 개발·운영하다 보면 기대와 동떨어진 상황을 만날 수 있다. 대표적인 경우가 사건과 사고이다. 이것이 일어날 가능성을 ‘위험(risk)’이라고 부른다. 발생할 수 있는 위험들은 미리 찾아 제거하는 것이 중요하다. 만일 예방하지…
미국 국립표준기술연구소(NIST)가 대규모 인력 감축을 추진하며 인공지능(AI) 안전성을 연구하는 AI 안전연구소가 존폐 위기에 놓였다. 23일 테크크런치 보도에 따르면 미국 국립표준기술연구소가 예산을 감축하며 최대 500명에 달하는 직원이 해고…
다리오 아모데이 앤트로픽 최고경영자(CEO)가 2027년 이후에는 인공지능(AI) 모델이 거의 모든 분야에서 인간을 능가할 가능성이 있다고 전망했다. 앤트로픽은 오픈AI 대항마로 꼽히는 기업이다. 회사가 개발한 AI 모델인 ‘클로드 3’는 일부…
스닙팟은 #해시태그로 인기 콘텐츠가 모이고 끌올 ⏫ 되는 주제 탐색형 서비스 입니다. 클릭해서 스닙팟에 대해 더 알아보세요.
인공지능(AI) 기반 비전 솔루션 기업 세이지(대표 박종우, 홍영석)는 자사의 AI 기반 안전 모니터링 솔루션 세이지 세이프티(SAIGE SAFETY)가 GS (Good Software)인증 1등급을 획득했다고 22일 밝혔다.GS인증은 한국정보통…
인공지능(AI) 규제를 하는 곳인가, 글로벌 경쟁이 심각한데 지금 규제가 필요한가. 2024년 11월 설립된 AI안전연구소에 대해 나오는 얘기다.김명주 AI안전연구소장은 이 같은 우려에 무겁게 입을 열었다. “AI안전연구소의 약자인 AISA에서…
위키마저.. AI 가 대신 작성해주기 시작.더보기 줄이기
세계 최대 지식 창고로 불리는 웹사이트 '위키백과'가 인공지능(AI)이 생성한 거짓 정보로 오염되고 있다는 우려가 나왔다. 논문 사전 공개 사이트 '아카이브(arXiv)'에 최근 게재된 '위키백과에서의 AI 생성 콘텐츠의 부상' 논문에 따르면,…
(서울=연합뉴스) 김길원 기자 = AI(인공지능) 기술을 이용한 헬스케어 산업이 전 세계적으로 급격한 성장세를 보이고 있다.
윤석열 대통령이 9월 26일 서울 종로구 포시즌스호텔에서 열린 국가인공지능위원회 출범식 및 1차회의에서 발언하고 있다. 사진=뉴시스 ‘인공지능(AI) 기본법’에는 ‘국가 AI위원회’가 포함돼 있다. AI 정책이 단순히 기술 개발이나 규제에 그치지…
오픈AI가 인공지능(AI) 모델의 안전을 검토하는 ‘안전 및 보안 위원회’를 독립적인 이사회 감독 조직으로 분리했다. 샘 올트먼 CEO는 위원회에서 제외됐다.샘 올트먼 오픈AI 최고경영자(CEO). (사진=AFP)오픈AI는 지난 16일(현지시간)…
오픈AI 이사회에 지코 콜터(Zico Kolter) 미국 카네기멜론대학교의 기계학습학과 교수가 새롭게 합류했다. 오픈AI는 8일(현지시간) 공식 블로그를 통해…
오픈AI가 'GPT-4o 미니'에 최초로 적용했다는 '지시 계층(The Instruction Hierarch)'은 프롬프트에 우선 순위를 정하는 방식으로 밝혀졌다. 이를 통해 프롬프트 공격에 대한 탈옥 저항 능력을 강화한다는 의도다.오픈AI는 1…
01. 서론 1) 일리야 수츠케버의 새로운 도전 일리야 수츠케버는 인공지능(AI) 분야에서 가장 주목받는 인물 중 한 명입니다. 그는 2015년 샘 올트먼, 일론 머스크 등과 함께 오픈AI를 공동 설립하였으며, 챗GPT와 같은 혁신적인 AI 모델…
오픈에이아이(OpenAI)를 직격한 유명 배우 스칼릿 조핸슨 목소리 도용 논란 은 인공지능 기술 발전 과정에 잠재된 윤리 문제를 대중적으로 일깨운 사건이다. 전 세계에서 인간에 가장 가까운 인공지능 모델(지피티-4오)을 선보인 세계 최고 인공지능…
Azure AI 콘텐츠 안전 플랫폼의 AI 콘텐츠 조정을 사용하여 텍스트 및 이미지에서 불쾌하거나 부적절한 콘텐츠를 감지합니다. AI를 사용하는 콘텐츠 필터링 기능을 살펴봅니다.
### 정의 AI 안전(AI safety)이란 [인공지능](120146) 시스템이 인간과 환경에 해를 끼치지 않도록 설계, 개발, 관리하는 과정과 방법론을 말한다. 이 분야는 인…
스닙팟은 #해시태그로 인기 콘텐츠가 모이고 끌올 ⏫ 되는 주제 탐색형 서비스 입니다!