From Defense to Jobs, AI's Raising Concerns
From Defense to Jobs, AI's Raising Concerns
국방부터 일자리까지…AI 확산에 우려 커져
Leading AI research company Anthropic is 1under pressure from the 2Pentagon to drop safety 3guardrails on Claude, the first AI system to be used in the military's 4classified network.
On Tuesday, Defense Secretary Pete Hegseth told Anthropic CEO Dario Amodei that if the company does not allow Claude to be used for, "all lawful purposes," he would cancel Anthropic's $200 million contract and 5deem the company a 6supply-chain risk.
But in a blog post Thursday, Amodei rejected the demands, saying in part that AI could, "7undermine rather than defend democratic values."
"They're worried about a couple of things how this technology is 8deployed, and one of them has to do with 9surveillance and the other has to do with 10autonomous weapons. These are not perfect systems. What if it did do something wrong?"
Amodei said Anthropic would not change its position despite the threats.
Some experts say the company could have a lot to gain by 11sticking to their position.
"They are selling themselves on safety. They'll do plenty of business with companies that really value this kind of thinking."
And the 12battle over AI this week isn't limited to the military.
On Thursday, Block, the company behind Square, Cash App, and Afterpay, announced thousands of layoffs, cutting staff by 40%.
The reason?
Intelligence tools, according to a letter to shareholders by co-founder Jack Dorsey.
"The company says artificial intelligence can do more of that work better than the people that are working there."
A 13stark warning that it's likely other businesses will begin 14following suit.
- 1be under pressure압력을 받다
- 2Pentagon펜타곤 (미 국방부)
- 3guardrail가드레일, 안전장치
- 4classified기밀의
- 5deem간주하다, ~로 여기다
- 6supply-chain risk공급망 위험
- 7undermine훼손시키다, 약화시키다
- 8deploy배치하다, 사용하다
- 9surveillance감시
- 10autonomous자율적인
- 11stick to~을 (바꾸지 않고) 고수하다
- 12battle over~을 두고 싸우다
- 13stark엄중한, 극명한
- 14following suit전례를 따르다
선도적 AI 연구 기업인 앤스로픽이 군사 기밀 네트워크에서 처음 사용될 AI 시스템 ‘클로드(Claude)’의 안전 장치를 제거하라는 펜타곤의 압박을 받고 있습니다.
화요일, 피트 헤그세스 미 국방장관은 앤스로픽의 CEO 다리오 아모데이에게 회사가 클로드를 “모든 합법적 목적”에 사용하도록 허용하지 않으면 2억 달러 규모의 계약을 취소하고, 회사를 공급망 위험으로 간주하겠다고 통보했습니다.
하지만 아모데이는 목요일 블로그 게시물에서 이러한 요구를 거부하며, AI가 “민주적 가치를 수호하기보다는 훼손할 수 있다”고 부분적으로 밝혔습니다.
“사람들은 이 기술이 어떻게 사용될지, 몇 가지를 우려하고 있습니다. 하나는 감시에 관련된 것이고, 다른 하나는 자율 무기와 관련된 문제입니다. 이런 시스템은 완벽하지 않습니다. 만약 잘못된 일을 한다면 어떻게 하겠습니까?”
아모데이는 위협에도 불구하고 앤스로픽이 입장을 바꾸지 않을 것이라고 밝혔습니다.
일부 전문가들은 회사가 현재 입장을 고수함으로써 얻을 것이 많을 수 있다고 말합니다.
“그들은 안전성을 내세워 자신을 홍보하고 있습니다. 이러한 사고를 중시하는 기업들과 충분히 비즈니스를 할 수 있을 겁니다.”
이번 주 AI를 둘러싼 논쟁은 군사 분야에만 국한되지 않습니다.
목요일, 스퀘어(Square), 캐시앱(Cash App), 애프터페이(Afterpay)를 운영하는 블록(Block)은 수천 명의 직원을 해고하며 인력을 40% 줄인다고 발표했습니다.
그 이유는 무엇일까요?
공동 창업자 잭 도시는 주주들에게 보낸 글에서 그 원인을 AI 때문이라고 밝혔습니다.
“회사는 인공지능이 그곳에서 일하는 사람들보다 더 효율적으로 많은 업무를 수행할 수 있다고 말합니다.”
이는 다른 기업들도 곧 비슷한 움직임을 보일 가능성이 높다는 강력한 경고입니다.