반응형
Safety Layer는 시스템이 위험하거나 원치 않는 행동을 하지 못하도록, "본 기능과는 별도로" 감시, 판단, 차단을 담당하는 구조적인 층을 뜻합니다. 최근의 LLM에서 악의적인 질문에 대해서 응답을 거부하게 만드는 담당을 Safety Layer라고 볼 수 있습니다.
내부 시스템은 Safety Layer와는 별개로 자유롭게 돌아가되, 브레이크 역할을 Safety Layer가 따로 하고 있습니다.
하나의 안전 장치에만 의존할 경우, 그 장치가 고장 났을 때 바로 사고로 이어질 수 있어서, 서로 독립적인 여러 층의 보호를 겹겹이 두는 설계가 권장되고 있습니다.
반응형
'Growth > AI 끄나풀' 카테고리의 다른 글
| GEO(Generative Engine Optimization)에 대해서 알아보기 (0) | 2026.05.17 |
|---|---|
| [AI 영상 생성] Sora 2 초대 코드 받는 법 (0) | 2025.10.07 |
| [클로드코드] Claude Code를 Windows 환경에서 설치하기 (0) | 2025.06.26 |
| Cursor CEO에게서 메일을 받았습니다 (0) | 2025.05.28 |
| [바이브 코딩] 코딩을 몰라도 누구나 내 서비스 만들기 (1) | 2025.05.28 |