Anthropic: "인류는 빠르게 멸종을 향해 달려가고 세상 모두가 그걸 원하니 나는 남은 시간 동안 시나 쓰면서 놀겠습니다."

X의 mrinank님(@MrinankSharma)

 

앤트로픽의 안전 책임자 : "인류는 빠르게 멸종을 향해 달려가고 세상 모두가 그걸 원하니 나는 남은 시간 동안 시나 쓰면서 놀겠습니다."

참고 : 앤트로픽의 시니어 안전 연구원 4명이 한 달 사이에 회사를 떠났습니다. (이 중 1명은 OpenAI로 이직, 나머지는 그냥 관뒀음)

---

아마존, 전 부문에 AI 활용한다던데

구글, 제미나이3·TPU로 시장 뒤흔들었다

부모는 일하고, 자식은 쉰다? 고령자 고용률 70% 돌파했지만 청년 고용률 감소

美 고용 서프라이즈에도 ‘불안’...공포지수 급등

펜타곤엔 ‘제미나이’, 핵잠 조선소엔 ‘팔란티어’…AI가 미군을 바꾼다 | 중앙일보

‘웃픈경제’ 청년고용 5년 최저인데 빚내 주식몰빵

"돈 많이 벌었어요" 백화점에서 펑펑…그 돈, 반도체에서 나왔다

[단독] “HBM 설계도 내놔라”…ITC, 도 넘은 韓 압박

美 펀드, 성추문 日 후지TV 관련 "그룹 대표 물러나라"

북한 해커들의 긴 잠복…2025년 사이버 공격, 무엇이 달랐나

中빅테크 또 일냈다…'사진 한 장이면 끝' 전문가도 '화들짝'

AI 패권 전쟁 격화..."中 AI 산업 규모 200조 돌파" | 아주경제

---

Dear Colleagues,

I’ve decided to leave Anthropic. My last day will be February 9th.

동료 여러분께,

저는 Anthropic을 떠나기로 결정했습니다. 저의 마지막 근무일은 2월 9일입니다.


Thank you. There is so much here that inspires and has inspired me. To name some of those things: a sincere desire and drive to show up in such a challenging situation, and aspire to contribute in an impactful and high-integrity way; a willingness to make difficult decisions and stand for what is good; an unreasonable amount of intellectual brilliance and determination; and, of course, the considerable kindness that pervades our culture.

감사합니다. 이곳에는 지금도, 그리고 그동안 저에게 깊은 영감을 준 것들이 참 많습니다. 몇 가지만 꼽자면, 이렇게 도전적인 상황 속에서도 진지하게 임하고, 영향력 있고 높은 기준의 정직함을 지키며 기여하고자 하는 진심 어린 열망과 추진력; 어려운 결정을 내리고 옳은 것을 위해 서려는 의지; 비상할 정도의 지적 탁월함과 결단력; 그리고 무엇보다 우리 문화 전반에 스며 있는 깊은 친절함입니다.

I’ve achieved what I wanted to here. I arrived in San Francisco two years ago, having wrapped up my PhD and wanting to contribute to AI safety. I feel lucky to have been able to contribute to what I have here: understanding AI sycophancy and its causes; developing defences to reduce risks from AI-assisted bioterrorism; actually putting those defences into production; and writing one of the first AI safety cases. I’m especially proud of my recent efforts to help us live our values via internal transparency mechanisms; and also my final project on understanding how AI assistants could make us less human or distort our humanity. I thank you for your trust.

저는 이곳에서 이루고자 했던 바를 이뤘습니다. 2년 전 박사 과정을 마치고 AI 안전에 기여하고자 샌프란시스코에 왔습니다. 이곳에서 제가 기여할 수 있었던 것들을 떠올리면 감사한 마음이 듭니다. AI 아첨(sycophancy) 현상과 그 원인을 이해하는 일; AI 지원 생물테러 위험을 줄이기 위한 방어 체계를 개발하는 일; 그 방어 체계를 실제 프로덕션에 적용하는 일; 그리고 초기 AI 안전 사례 중 하나를 작성한 일 등입니다. 특히 내부 투명성 메커니즘을 통해 우리가 스스로의 가치를 실천하도록 돕는 최근의 노력과, AI 어시스턴트가 우리를 덜 인간적으로 만들거나 우리의 인간성을 왜곡할 수 있는 방식을 탐구한 마지막 프로젝트를 자랑스럽게 생각합니다. 저를 믿어주셔서 감사합니다.

Nevertheless, it is clear to me that the time has come to move on. I continuously find myself reckoning with our situation. The world is in peril. And not just from AI, or bioweapons, but from a whole series of interconnected crises unfolding in this very moment. We appear to be approaching a threshold where our wisdom must grow in equal measure to our capacity to affect the world, lest we face the consequences. Moreover, throughout my time here, I’ve repeatedly seen how hard it is to truly let our values govern our actions. I’ve seen this within myself, within the organization, where we constantly face pressures to set aside what matters most, and throughout broader society too.

그럼에도 이제는 떠날 때가 되었다는 것이 분명해졌습니다. 저는 계속해서 우리가 처한 상황을 깊이 마주해 왔습니다. 세계는 위기에 처해 있습니다. 그것은 AI나 생물무기 때문만이 아니라, 지금 이 순간에도 전개되고 있는 서로 얽힌 일련의 복합적 위기 때문입니다. 우리는 세상에 영향을 미칠 수 있는 역량이 커지는 만큼, 그에 걸맞은 지혜도 함께 성장해야 하는 문턱에 다가가고 있는 듯합니다. 그렇지 않으면 그 대가를 치르게 될 것입니다. 또한 이곳에 있는 동안, 우리의 가치가 실제 행동을 이끌도록 하는 것이 얼마나 어려운 일인지 반복해서 목격했습니다. 그것은 제 자신 안에서도, 조직 안에서도, 그리고 더 넓은 사회 전반에서도 마찬가지였습니다. 우리는 가장 중요한 것을 뒤로 미루라는 압박을 끊임없이 받습니다.

It is through holding this situation and listening as best I can that what I must do becomes clear. I want to contribute in a way that feels fully in my integrity, and that allows me to bring to bear more of my particularities. I want to explore the questions that feel truly essential to me, the questions that David Whyte would say “have no right to go away”, the questions that Rilke implores us to “live”. For me, this means leaving.

이 상황을 온전히 붙들고, 가능한 한 깊이 경청하는 과정 속에서 제가 무엇을 해야 하는지가 분명해졌습니다. 저는 제 양심과 온전히 합치되는 방식으로 기여하고 싶습니다. 또한 저만의 고유한 면모를 더 많이 발휘할 수 있는 길을 걷고 싶습니다. 제게 진정 본질적으로 느껴지는 질문들, 데이비드 화이트가 말하듯 “사라질 권리가 없는 질문들”, 릴케가 우리에게 “살아내라”고 요청한 바로 그 질문들을 탐구하고 싶습니다. 저에게 그것은 떠남을 의미합니다.



Some call it the “poly-crisis”, underpinned by a “meta-crisis”. Probably my favourite resource about this is “First Principles and First Values” by David J Temple.

어떤 이들은 이를 ‘폴리-크라이시스(poly-crisis)’라 부르며, 그 기저에는 ‘메타-크라이시스(meta-crisis)’가 있다고 말합니다. 이에 대해 제가 가장 인상 깊게 참고한 자료는 David J. Temple의 “First Principles and First Values”입니다.

I wrote about this in greater detail in my documents Planning for Ambiguous and High-Risk Worlds, and Strengthening our safety mission via internal transparency and accountability.

이 주제에 대해서는 제가 작성한 「Planning for Ambiguous and High-Risk Worlds」와 「Strengthening our safety mission via internal transparency and accountability」 문서에서 더 자세히 다루었습니다.

I am thinking now of Mary Oliver’s lovely poem The Journey…

지금 저는 메리 올리버의 아름다운 시 「The Journey」를 떠올립니다…

What comes next, I do not know. I think fondly of the famous Zen quote “not knowing is most intimate”. My intention is to create space to set aside the structures that have held me these past years, and see what might emerge in their absence. I feel called to writing that addresses and engages fully with the place we find ourselves, and that places poetic truth alongside scientific truth as equally valid ways of knowing, both of which I believe have something essential to contribute when developing new technology. I hope to explore a poetry degree and devote myself to the practice of courageous speech. I am also excited to deepen my practice of facilitation, coaching, community building, and group work. We shall see what unfolds.

앞으로 무엇이 펼쳐질지는 저도 모릅니다. 저는 “모른다는 것은 가장 친밀한 상태다”라는 유명한 선(禪)의 말을 좋아합니다. 지난 몇 년간 저를 지탱해온 구조들을 잠시 내려놓고, 그 부재 속에서 무엇이 떠오를지 지켜볼 공간을 만들고자 합니다. 우리가 처한 이 자리와 온전히 마주하고 응답하는 글쓰기를 하고 싶습니다. 또한 시적 진실과 과학적 진실을 동등하게 유효한 인식 방식으로 나란히 두고자 합니다. 저는 새로운 기술을 개발할 때, 이 두 방식 모두 본질적인 기여를 할 수 있다고 믿습니다. 시 학위를 탐구해보고, 용기 있는 말하기의 실천에 헌신하고 싶습니다. 더 나아가 퍼실리테이션, 코칭, 커뮤니티 빌딩, 그룹 작업에 대한 제 실천도 깊이 있게 발전시키고자 합니다. 앞으로 무엇이 펼쳐질지 지켜보겠습니다.

Thank you, and goodbye. I’ve learnt so much from being here and I wish you the best. I’ll leave you with one of my favourite poems, The Way It Is by William Stafford.

Good Luck,
Mrinank

감사합니다. 그리고 안녕히 계십시오. 이곳에서 정말 많은 것을 배웠고, 여러분의 앞날에 행운이 함께하길 바랍니다. 제가 좋아하는 시 한 편, 윌리엄 스태퍼드의 「The Way It Is」를 남기며 글을 마칩니다.

행운을 빕니다.
Mrinank

The Way It Is — William Stafford

The Way It Is
There's a thread you follow. It goes among things that change. But it doesn't change.
People wonder about what you are pursuing.
You have to explain about the thread
But it is hard for others to see.
While you hold it you can't get lost.
Tragedies happen; people get hurt or die; and you suffer and get old.
Nothing you do can stop time's unfolding.
You don't ever let go of the thread.

William Stafford

변해가는 것들 사이를 지나가면서도
결코 끊어지지 않는 한 가닥의 실이 있다.

사람들은 네가 무엇을 좇고 있는지 묻는다.
그래서 너는 그 실에 대해 설명해야 한다.
하지만 다른 이들의 눈에는 잘 보이지 않는다.

그 실을 붙잡고 있는 한
너는 길을 잃지 않는다.

비극은 일어나고
사람들은 상처 입거나 죽는다.
너 역시 고통을 겪고 늙어간다.

시간이 흘러가는 것을
그 무엇으로도 멈출 수는 없다.

하지만 너는 그 실을 놓지 않는다.

그것은 모든 변화 사이를 지나가지만
스스로는 변하지 않는다.

사람들은 묻고, 이해하지 못하고,
설명은 늘 불완전하다.

그럼에도
그 실을 따라가야 한다.

그것이 바로
있는 그대로의 길이다.

---