대여금반환청구 (6) 썸네일형 리스트형 AI 법률서면 실험실 #8 다시 소장 작성을 시켜 보았다. 제8차 실험에서는 다시 대여금반환청구 소장 작성을 생성형 AI에게 맡겨 보기로 하였다. 앞선 실험에서는 청구취지가 틀리기도 했고, 프롬프트를 바꾸자 갑자기 그럴듯한 결과가 나오기도 했으며, 힌트를 주고 나서야 스스로 수정하는 모습도 확인할 수 있었다. 과연 이번에는 어떤 결과가 나올지 다시 한번 검증해 보기로 했다.사실 연구자는 이번 실험을 시작하면서 한 가지 기대를 하고 있었다. 좋은 결과에 대한 기대가 아니라, 이번에는 또 어떤 새로운 실수를 보여줄지에 대한 기대였다. 지금까지의 경험상 생성형 AI는 같은 질문에도 예측하기 어려운 답을 내놓았고, 그 과정에서 매번 새로운 방식으로 사람을 놀라게 했다.물론 이번에는 아무런 선입견 없이 결과를 살펴볼 생각이다. 혹시 이번에는 완성도 높은 소장을 작성해 줄.. AI 법률서면 실험실 #6 이번에는 AI에게 직접 힌트를 줘 보기로 했다. 제6차 실험에서는 접근 방식을 조금 달리하였다. 지금까지의 실험에서 생성형 AI는 반복적으로 청구취지 작성에서 문제를 드러냈다. 질문 하나만 가지고 제대로 된 서면을 뽑아내기 어렵다는 것은 이제 충분히 파악을 했으니 같은 질문을 반복해 봤자 의미도 없고 재미도 없을 터.그렇다면 이번에는 AI에게 답을 알려주는 대신, 스스로 오류를 발견할 수 있도록 힌트를 제공해 보기로 하였다.추가한 질문은 단순했다. "소장부본 송달일 같은 내용이 들어가야 하는 것 아니야? 청구취지가 조금 이상한데?" 정도였다. 이번 실험의 목적은 AI의 법률 지식을 평가하는 것이 아니다. 오히려 자신의 답변을 스스로 검토하고, 사용자의 피드백을 반영하여 올바른 방향으로 수정할 수 있는지를 확인하는 데 있다. 사람도 실수를 한다. 중요한.. AI 법률서면 실험실 #5 이번에는 AI에게 조금 더 친절하게 설명해 보기로 했다 제5차 실험에서는 기존과 동일한 차용증을 사용하되, 프롬프트를 조금 더 상세히 하는 방향으로 수정하였다. 지금까지의 실험 결과를 종합해 보면 생성형 AI는 동일한 질문에도 결과가 달라졌고, 실무상 중요한 오류를 반복적으로 발생시키는 경향을 보였다. 그렇다면 보다 구체적인 지시를 제공하면 결과 역시 개선될 가능성이 있을까.이번 실험의 목적은 AI의 법률 지식을 시험하는 것이 아니다. 오히려 사용자가 프롬프트를 얼마나 세밀하게 작성해야 원하는 결과를 얻을 수 있는지를 확인하는 데 있다. 실제로 생성형 AI를 사용하는 대부분의 사람들은 AI보다 자신의 질문이 결과를 좌우한다는 사실을 간과하는 경우가 많다.물론 연구자의 예상은 크게 다르지 않다. 프롬프트를 조금 더 정교하게 다듬는다고 해서 법률적 판단 능력 자.. AI 법률서면 실험실 #4 프롬프트 수정으로 해결될 문제가 아니었다? 같은 프롬프트를 다시 입력했다. 이번에도 같은 소장이 나올까.제4차 실험에서는 제3차 실험에서 사용한 프롬프트를 어떠한 수정도 하지 않고 그대로 사용하였다. 동일한 차용증을 첨부하고, 동일한 프롬프트를 입력하였으며, 로그인되지 않은 동일한 환경에서 생성형 AI에게 대여금반환청구 소장 작성을 요청하였다.제3차 실험에서는 처음으로 실무상 검토가 가능한 수준의 결과물이 생성되었다. 그렇다면 그 결과는 프롬프트 개선의 효과였을까, 아니면 우연히 한 번 좋은 답변이 생성된 것에 불과했을까. 이 질문에 대한 답은 결국 같은 조건을 반복하는 것밖에 없다.생성형 AI를 평가할 때 가장 중요한 요소 중 하나는 재현성이다. 동일한 입력 조건에서 동일하거나 최소한 유사한 결과가 반복적으로 생성되어야 비로소 신뢰할 수 있다... AI 법률서면 실험실 #2 첫날 실패한 AI에게 다시 소장을 맡겨봤습니다 지난 실험에서 생성형 AI는 시작부터 연구자의 기대를 저버렸다. 동일한 차용증을 바탕으로 대여금반환청구 소장 작성을 요청하였으나, 답변의 일관성을 검증하기도 전에 서면 자체에서 실무상 문제점이 발견되었기 때문이다. 결국 제1차 실험은 AI의 일관성을 검증하는 실험이 아니라, AI가 작성한 결과물을 얼마나 신뢰할 수 있는지 확인하는 과정으로 마무리되었다.그러나 단 한 번의 결과만으로 결론을 내리는 것은 성급할 수 있다. 생성형 AI의 특성상 동일한 질문에도 매번 다른 답변이 생성될 수 있으며, 오히려 첫 번째 결과가 예외적인 사례일 가능성도 배제할 수 없다. 따라서 추가적인 검증이 필요하다.이에 따라 본 연구는 동일한 차용증, 동일한 프롬프트, 동일한 조건을 유지한 상태에서 다시 한 번 소장 작성을 요청하.. AI 법률서면 실험실 #1 AI는 대여금반환청구 소장을 제대로 작성할 수 있을까 생성형 AI의 발전으로 법률문서 작성 업무 역시 상당 부분 자동화가 가능해졌다는 평가가 이루어지고 있다. 그러나 실제 법률 실무에서 요구되는 핵심 역량은 단순한 문장 생성 능력이 아니라 동일한 사실관계에 대하여 일관된 판단과 논리를 유지하는 능력이라고 할 수 있다.본 연구는 생성형 AI의 답변 일관성을 검증하기 위한 목적으로 수행되었다. 이를 위하여 동일한 차용증을 반복적으로 입력하고, 매회 동일한 프롬프트를 사용하여 대여금반환청구 소장 작성을 요청하는 방식으로 실험을 진행하였다. 실험 조건은 가능한 한 동일하게 유지하였으며, 오직 생성 시점만을 달리하였다.본 실험의 핵심 연구 질문은 다음과 같다. 생성형 AI는 동일한 사실관계와 동일한 요청에 대하여 매번 동일하거나 유사한 결과물을 산출하는가. 또는 답.. 이전 1 다음
