기술 블로그

AI 정보보호 설계

생성형 AI 사용을 통제하는 기능을 설계하며 틀린 전제들. 입력 필터만으로 부족했던 지점부터 AI가 도구를 실행하기 시작한 뒤까지 다룹니다. 3편.

AI가 답하지 않고 실행하기 시작했습니다 — 오픈소프트랩 기술블로그

문제해결형

AI 정보보호 설계 (3) AI가 답하지 않고 실행하기 시작했습니다

입력과 응답을 검사하는 것으로 충분하다고 생각했습니다. AI가 답하는 대신 사내 시스템을 직접 실행하기 시작하면서 전제가 깨졌습니다.

차단과 허용 사이에 칸을 더 뒀습니다 — 오픈소프트랩 기술블로그

문제해결형

AI 정보보호 설계 (2) 차단과 허용 사이에 칸을 더 뒀습니다

민감정보가 보이면 막는다. 보안 기능이니 당연하다고 생각했습니다. 그런데 차단이 늘수록 통제가 약해지고 있었습니다.

프롬프트만 막으면 될 줄 알았습니다 — 오픈소프트랩 기술블로그

문제해결형

AI 정보보호 설계 (1) 프롬프트만 막으면 될 줄 알았습니다

입력창에 들어오는 글자에서 주민등록번호와 계좌번호를 찾으면 될 줄 알았습니다. 사용자가 파일을 올리기 시작하면서 그 전제가 깨졌습니다.