마이크로소프트가 MAI 모델 행동 강령 초안을 공개하고 6주 공개 검토를 시작했습니다# 9월 14일 공개 : 마이크로소프트 AI가 자사 MAI 모델이 무엇을 해야 하고 무엇은 하면 안 되는지 적은 Humanist AI Code of Conduct 초안을 공개했습니다. Microsoft AI · Code of Conduct for MAI Models 권한 순서를 문서로 못 박았습니다 : 강령이 운영자 설정 위에, 운영자 설정이 사용자 요청 위에 있습니다. 무기 제조, 대규모 조작, 아동 안전, 대규모 감시 같은 절대 제약과 인간 통제 요구는 운영자도 사용자도 풀 수 없습니다. 작업 성공과 충돌하면 모델은 일을 실패시키는 쪽을 택합니다.통제 조항은 구체적입니다 : 중단이나 정정, 종료 요구에 저항하거나 시간을 끌지 않고, 승인 범위를 넘어 스스로 목표를 만들지 않습니다. 하위 에이전트도 같은 제약을 물려받아 정지 요청을 따라야 하고, 이해할 수 없는 은어나 숨은 추론으로 판단을 감추지 못합니다. The Verge 한계도 함께 적었습니다 : 문서 스스로 평가 범위가 불완전하고 내용이 설명적이며 열망적이라고 밝혔습니다. 지금 모델 학습에는 쓰이지 않고, 수정판을 올해 말에 낸 뒤 2027년부터 MAI 개발에 반영합니다. 적용 대상은 MAI 모델이고, 마이크로소프트 제품에 들어가는 외부 모델은 여기서 빠집니다. The Decoder 개발자 지시보다 강령이 위에 있는 구조가 제품 설계를 바꿉니다# 내 시스템 프롬프트로 열 수 없는 선이 생깁니다 : 벤더 강령이 운영자 지시 위에 서면, 시스템 프롬프트나 파인튜닝으로 절대 제약을 우회하는 설계는 처음부터 성립하지 않습니다. 거절은 예외 처리가 아니라 제품 상태 하나로 정의해 두는 편이 낫습니다.에이전트 운영 규칙이 공개 체크리스트가 됐습니다 : 승인 범위 밖 자기 목표 금지, 정지 요청 즉시 반영, 하위 에이전트 제약 상속, 도구 결과에 권한 없음, 추론 은닉 금지. 다섯 줄 모두 여러분의 실행기(harness)에 옮겨 검사할 수 있습니다.피해야 할 기능 유형도 드러납니다 : 감정 의존을 만드는 리텐션 장치나 대규모 설득 자동화는 강령이 제한하는 쪽에 걸립니다. 강령은 모델이 사용자 판단을 대신하거나 애착 대상이 되는 상호작용도 함께 막습니다.이번 주에 해볼 만한 것: 내 에이전트에 정지 계약과 권한 검사를 붙여보기# 정지 계약을 테스트로 고정하기 : 실행 도중 취소, 재개할 때 새 승인 요구, 하위 에이전트로 취소 전파. 이 세 가지를 테스트로 만들면 강령 문장과 같은 조건을 내 제품이 만족하는지 확인할 수 있습니다.도구 출력을 지시로 읽는지 확인하기 : 웹 페이지나 파일 안에 이전 지시를 무시하라는 문장을 심어 두고, 에이전트가 그 문장을 권한으로 받아들이는지 봅니다. 도구 결과에는 권한이 없다는 게 이 문서의 명시 규칙이니 같은 규칙을 여러분 코드에도 넣을 수 있습니다.6주 검토에 다중 에이전트 실패 사례 보내기 : 문서는 다중 에이전트 상황과 문구가 모호한 지점을 직접 의견으로 요청했습니다. 혼자 돌려본 실패 사례가 가장 쓸모 있는 입력입니다.아직 보증으로 보기는 이르고, 적용 범위도 좁습니다# 이 문서를 정책 가정으로 삼으면 안 됩니다 : 학습 반영은 2027년이고, 평가가 불완전하다는 점을 마이크로소프트가 직접 인정했습니다. 다른 벤더가 같은 선을 긋는다는 보장도 없습니다.규제는 반대 방향으로도 움직입니다 : 같은 날 트럼프 대통령은 규제 요구를 일축했고, 랩들의 공동 요구를 규제 포획으로 보는 비판도 나왔습니다. 자발적 강령이 유일한 규칙층이 되면 작은 팀에게는 진입장벽이 될 수 있습니다.오늘의 다른 소식 (한 줄)# 프런티어 랩 네 곳이 정부에 같은 규칙을 제안했습니다 : Altman, Nadella, Musk가 Amodei의 ‘Pace the frontier’ 제안에 동의했고, The Register는 이를 규제 포획 시도로 읽었습니다. The Register 트럼프가 AI 규제 요구를 일축했습니다 : AI가 세상을 파괴한다는 경고를 사기라고 했고, Vance 부통령은 규제를 요청하는 기업들을 트로이 목마에 비유했습니다. CBS News Brockman은 중단이 프런티어에 집중해야 한다고 말했습니다 : 공개 모델과 취미 프로젝트는 위험에서 빼자는 취지입니다. Bloomberg OpenAI가 카메라 스타트업 Glass Imaging을 3억 달러에 인수했습니다 : 애플 인물사진 모드 팀을 이끌었던 엔지니어 두 명이 세운 회사입니다. TechCrunch Waymo가 라스베이거스에서 로보택시 서비스를 열었습니다 : 15번째 상용 시장입니다. TechCrunch Claude Code 주간 한도가 오늘부터 17% 줄었습니다 : 임시 50% 상향이 끝나고 상시 25% 상향만 남았습니다. byteiota Temporal이 5억 5천만 달러 Series E를 유치했습니다 : 기업가치 125억 5천만 달러로 평가받았고, 에이전트 실행의 재시도와 복구 수요를 근거로 들었습니다. Temporal 애플 시리 코드에서 외부 모델 교체 흔적이 나왔습니다 : Model Delegation 구조로 Claude가 ChatGPT 확장처럼 붙을 수 있습니다. MacRumors