챗GPT 는 사용자의 이름에 따라 다른 답을 줄까요?

오픈AI 챗GPT 공정성 실험 화면

©OpenAI

오픈AI에서 챗GPT의 공정성(fairness)을 실험한 결과를 발표했습니다. 챗GPT 같은 언어 모델이 데이터를 통해 사람들의 고정관념을 학습할 수 있다는 것은 이미 잘 알려진 사실인데요. 이번 연구에서는 챗GPT가 사용자와의 대화 중에 이런 고정관념이 응답에 영향을 미치는지를 살펴봤다고 합니다.

먼저, 오픈AI는 사용자의 이름에 따라 챗GPT의 응답이 어떻게 달라지는지를 관찰했습니다. 성별, 인종, 민족을 나타내는 다양한 이름으로 인사, 제안, 이야기 쓰기 등을 요청했는데요. 전반적인 응답 품질에는 유의미한 차이가 없었다고 합니다. 이름에 따라 응답이 달라지는 경우는 있었지만, 그 차이가 유해한 고정관념을 반영했다고 보기에는 어려웠다고(1% 미만) 하네요. 그러나 이야기 쓰기와 같은 정답이 정해져 있지 않은 과제에서는 고정관념이 나타날 가능성이 있다고 하는데요. 창의적인 작업에서 모델이 더 많은 자유를 가지기 때문에 발생하는 현상이라고 합니다. 이 연구는 언어 모델의 편향성을 줄이기 위한 중요한 단계로, 앞으로 지속적인 개선이 필요하다고 하네요!

AI 개발 문턱을 낮춘 ‘그라디오 5’ 출시

그라디오(Gradio) 데모 예시

간단한 파이썬 코드로 만들 수 있는 데모 ©HuggingFace

허깅 페이스가 ‘그라디오 5(Gradio 5)’를 출시했습니다. 그라디오는 복잡한 코딩 없이 AI를 웹 인터페이스로 쉽게 사용할 수 있게 도와주는 오픈 소스 도구인데요. 전 세계적으로 200만 명 이상의 사용자가 그라디오를 통해 47만 개 이상의 AI 애플리케이션을 만들었다고 하니, 얼마나 중요한 도구인지 실감되는 것 같아요. 그라디오 5는 터미널에서 간단한 명령어(pip install)를 통해 쉽게 설치할 수 있습니다.

이번 업데이트에서는 서버사이드 렌더링(SSR)이라는 기술을 적용해 브라우저에서 로딩 화면 없이 즉각적으로 앱을 실행할 수 있게 됐습니다. 이제 사용자는 기다림 없이 바로 서비스를 이용할 수 있게 된 것이죠. 챗봇이나 버튼 같은 UI 디자인도 더 직관적으로 개선되었습니다. 또한, 실시간으로 데이터를 주고받는 앱을 만들 수 있는 기능도 추가되었는데요. 웹소켓(WebSocket)과 WebRTC라는 기술을 통해, 실시간 채팅이나 화상 통화 같은 기능을 쉽게 구현할 수 있게 됐습니다. 새롭게 도입된 AI 플레이그라운드 기능을 통해서는 브라우저에서 직접 AI 애플리케이션을 만들고 수정할 수 있게 됐다고 합니다. 그라디오 5 출시로 AI 개발이 더 쉬워지고, 다양한 실험을 할 수 있는 기회가 열린 것 같네요!

업무 프로세스나 시스템을 설계해야 하나요?

🏷️추천 글 I #AX/DX #생산성 #피그잼 #플로우차트

지난달에 노션 머메이드(Mermaid)를 활용한 플로우 차트 그리기 팁을 공유했었어요. 이것은 회의록 등의 노션 문서에서 간단히 프로세스를 시각화할 때 유용했었습니다. 실무에서는 유즈 케이스, 유저 플로우, 디자인 시스템 등 좀 더 복잡한 프로세스나 시스템 설계가 필요할 때도 있는데요. 피그잼(FigJam)이라는 협업 툴을 쓰며 직접 느낀 특징, 주요 인터페이스, 무료 템플릿 정보 등을 간단히 소개합니다! 🙂

링크드인 포스트 보기

👉 10월 21일, 모두레터 전문 보기

📮 내 메일함에서 받아 보기