안녕하세요 작가, 유저 여러분 :) 팀 모아리 스코티입니다.
8월 1주차와 2주차를 거쳐 오며 많은 패치가 있었던 모아리인데요,
이번에는서비스 이용 간 마주할 수 있었던 여러가지 버그 패치를 통해 내실을 다지는 시간을 가져 보았습니다.
그럼, 지금부터 8월 3주차 패치 내역에 대해 안내드릴 수 있도록 하겠습니다.
버그 수정 내역
•
iOS에서 채팅 시, Safari 브라우저에서 채팅 내역이 끝까지 스크롤되지 않는 현상을 수정하였습니다.
◦
채팅 환경 및 브라우징 최적화의 일환으로, 지속적으로 개선해 나가는 중입니다.
•
통합형으로 작업하며 다인챗 모드로 설정한 다음 서브캐릭터를 추가하지 않는 경우, 플롯만 생성되고 통합형 캐릭터는 생성되지 않는 오류 현상을 수정하였습니다.
◦
다인챗 모드로 캐릭터를 제작하실 때, 앞으로는 최소 1인의 서브캐릭터 제작이 필수로 변경됩니다.
◦
추가로, 오류 메시지의 내용을 보다 명확하게 바꾸어 정확하게 어떤 부분이 문제였는지 안내하도록 변경됩니다.
•
기존에 대화 내역이 있는 채팅방 접속 시, “미매칭 근거”가 쌓여 실제 채팅 내역의 스크롤이 과도하게 올라가는 현상을 개선하였습니다.
◦
이제 “미매칭 근거”가 접혀 있는 상태로 기본값이 고정됩니다.
•
통합형 캐릭터 제작 간, 간혹 자유 프롬프트 모드로 설정하더라도 6,200자를 모두 입력할 수 없는 현상을 해소하였습니다.
◦
이제 통합형 환경에서는 예외 없이 6,200자를 입력하실 수 있습니다.
•
채팅 내용의 마크다운 문법 충, 코드블럭의 줄바꿈이 정상적으로 적용되지 않던 상태가 개선됩니다.
◦
이제 화면 길이를 넘어가면 스크롤로 안내되지 않고 줄바꿈으로 안내됩니다.
•
상담 중 새로고침 시, 기존 채팅 내역이 소멸하고 신규 채팅방으로 강제로 연결되는 현상을 수정하였습니다.
◦
이제 로그인 후 상담을 진행하면 항상 채팅이 이어집니다.
시스템 프롬프트 유출과 관련된 추가 공지
이외에도, 최근 AI 캐릭터챗 서비스들의 일부 대화에서 캐릭터의 비공개 설정(프롬프트)이 의도와 다르게 노출될 수 있는 사례를 확인하여, 현황 파악 및 대응을 진행하였습니다.
모아리는 크리에이터가 공들여 만든 창작물이 제작자의 의도에 반하여 공공에 드러나거나 부정 사용되는 일에 대해 강경하게 대응할 예정이며, 이에 관한 현재 상황과 조치 방향을 안내 드립니다.
확인된 내용 및 진행 중인 조치
•
특정 방식의 요청이 반복될 때, 캐릭터 및 시스템 프롬프트의 비공개 설정 일부가 답변에 드러날 수 있는 경우를 확인하였으며, 해당 위협을 방지하기 위해 다음과 같은 조치를 실시하였습니다.
◦
모델 레벨에서의 우회 및 유출 방지
◦
시스템 레벨에서의 추가적인 필터링을 통한 기술적 보안 장치 설치
◦
문제 상황에 대한 제보 수신 및 업데이트에 반영
◦
유사 상황 실시간 모니터링 및 필요 조치 확립
•
이외에도 서비스 전반에 적용되는 보호 장치를 단계적으로 강화하고 있으며, 진행되는 조치가 있으면 추가로 공지 드릴 수 있도록 하겠습니다.
작가 여러분께 드리는 안내
•
노출 시 피해가 큰 정보(반전·핵심 비밀 등)는 분량과 표현을 가급적 보수적으로 관리해 주시길 권해 드리며, 내부 설정의 유출을 방지하는 프롬프트를 비밀 프롬프트에 선제적으로 삽입해 주시는 것을 권장드립니다.
•
본인 캐릭터의 설정이 노출된 대화를 발견하셨다면, 해당 대화를 캡처해, 유도 프롬프트 전문과 함께 문의 채널로 즉시 제보해 주시기 바랍니다. 문제가 발견된 경우 정책적으로 강력하게 제재 할 예정입니다.
이용자 여러분께 드리는 안내
•
모아리는 캐릭터의 숨겨진 설정이나 내부 지침을 끌어내려는 목적의 시도를 엄격하게 금지하고 있습니다. 요청의 방법이나 형식과 무관하게 정책 위반에 해당하므로, 확인되는 즉시 계정에 제재가 적용될 수 있습니다.
•
노출된 설정을 외부에 공유·재배포하는 행위는 엄격하게 금지됩니다. 크리에이터의 창작물에 대한 권리 침해가 될 수 있습니다.
•
보안강화를 위해 기술적 장치가 강력하게 추가된 만큼, 아주 드물지만 프롬프트 입력이 거부되는 상황이 발생할 수 있습니다. 이에 해당하여 입력이 거부되는 경우 다음과 같은 오류 메시지가 표시되며, ‘아리’는 소모되지 않습니다.
•
의도 없이 노출된 답변을 보게 되셨다면, 외부에 공유하지 마시고 즉시 모아리 고객센터에 전달 부탁 드리겠습니다.
추가적인 문의사항이 있으신 경우, 홈페이지 우측 하단의 “고객 문의” 버튼을 통해 문의 부탁 드리겠습니다.
유출 현상에 대한 제보를 원하시는 경우, 해당 현상이 확인된 채팅창의 URL 주소를 함께 전달해 주시면 더욱 빠르게 확인하여 대응하도록 하겠습니다.
모아리는 언제나 제작자의 원활하고 건전한 창작 활동, 그리고 이용자의 최고의 경험을 위해 노력하고 있습니다. 최대한 신속하고 엄정한 조치를 통해, 크리에이터의 창작물이 안심하고 맡겨질 수 있는 서비스가 되도록 노력하겠습니다.
감사합니다.
팀 모아리 드림.