[LLM] 데이터를 검증하는 방식 알아보기 with NeMo-Guardrails
·
AI
사용자가 원하는 정보를 다 대답해 주는 생성형 AI 서비스도 좋지만, 우리는 목적에 맞는 정보만 제공하기를 바라고 또 내가 제공하는 정보가 사용자와 운영자에게 악영향을 미치지 않기를 바란다. 그래서 우리는 사용자의 요청에 따른 답변이 제대로 되었는지를 검증하고 제공해야 할 필요가 있다. 따라서 답변을 제공하기 전 데이터를 검증할 수 있는 네 가지 방법을 소개하고 유사도, 프롬프트를 활용한 검증 실습을 진행해 보자.데이터 검증 방식 규칙 기반가장 간단하고 알고리즘적으로 해결할 수 있는 방법이다. 우리가 만약 누군가의 주민등록번호나 전화번호를 요청하였고, 만약 벡터데이터베이스에 그 정보가 존재한다면 개인정보 유출의 우려가 있을 것이다. 주민등록번호 13자리나 전화번호 11자리의 정규 표현식을 통해, 답변에 ..