Ban ‘killer robots,’ rights group urges

Hollywood-style robots able to shoot people without permission from their human handlers are a real possibility and must be banned before governments start deploying them, campaigners warned Monday.

The report “Losing Humanity” -- issued by Human Rights Watch and Harvard Law School‘s International Human Rights Clinic -- raised the alarm over the ethics of the looming technology.

Calling them “killer robots,” the report urged “an international treaty that would absolutely prohibit the development, production, and use of fully autonomous weapons.”

The US military already leads the way in military robots, notably the unmanned aircraft or drones used for surveillance or attacks over Pakistan, Afghanistan, Yemen and elsewhere. But these are controlled by human operators in ground bases and are not able to kill without authorization.

Fully autonomous robots that decide for themselves when to fire could be developed within 20 to 30 years, or “even sooner,” the 50-page report said, adding that weapon systems that require little human intervention already exist.

Raytheon’s Phalanx gun system, deployed on US Navy ships, can search for enemy fire and destroy incoming projectiles all by itself. The X47B is a plane-sized drone able to take off and land on aircraft carriers without a pilot and even refuel in the air.

Perhaps closest to the Terminator-type killing machine portrayed in Arnold Schwarzenegger‘s action films is a Samsung sentry robot already being used in South Korea, with the ability to spot unusual activity, talk to intruders and, when authorized by a human controller, shoot them.

Fully autonomous fighting machines would spare human troops from dangerous situations. The downside, though, is that robots would then be left to make nuanced decisions on their own, the most fraught being the need to distinguish between civilians and combatants in a war zone.

“A number of governments, including the United States, are very excited about moving in this direction, very excited about taking the soldier off the battlefield and putting machines on the battlefield and thereby lowering casualties,” said Steve Goose, arms division director at Human Rights Watch.

While Goose said “killer robots” do not exist as yet, he warned of precursors and added that the best way to forestall an ethical nightmare is a “preemptive, comprehensive prohibition on the development or production of these systems.”

Jody Williams, the 1997 Nobel Peace Prize laureate, said in Washington that the prospect of killer robots “totally freaked me out.”

“I had visions of the Terminator,” she said. “The thought that this development was proceeding without any public discussion I found more reprehensible than most military R&D because I really believe that this would... totally transform the face of warfare.”

The problem with handing over decision-making power to even the most sophisticated robots is that there would be no clear way of making anyone answer for the inevitable mistakes, said Noel Sharkey, professor of robotics at University of Sheffield.

“If a robot goes wrong, who’s accountable? It certainly won‘t be the robot,” he said.

“The robot could take a bullet in its computer and go berserk. So there’s no way of really determining who‘s accountable and that’s very important for the laws of war.” (AFP)



<관련 한글 기사>



터미네이터같은 무인살인기계에 '시끌'


조종하는 사람이 직접 명령을 내리지 않아도 사람에게 해를 입힐 수 있는 헐리우드 영화에나 나올법한 로봇들이 현실화 될 가능성이 매우 높으며, 이런 로봇들을 정부에서 실전 배치하기 전에 법으로 금지시켜야 한다는 목소리가 높아지고 있다.

미국 비정부인권보호기구 휴먼라이츠워치(Human Rights Watch)와 하버드대학교 로스쿨 국제인권클리닉은 보고서 ‘인간성의 상실(Losing Humanity)’을 펴내며 기술의 발전으로 인해 야기될 수 있는 윤리 문제에 경종을 울리고 있다.

보고서는 이러한 종류의 로봇을 ‘킬러 로봇’이라고 부르며 이의 개발, 생산, 및 자동화 무기로서의 채택 등을 완전히 금지시키는 국제적 협약 마련이 필요하다고 주장했다.

미군은 이미 파키스탄, 아프가니스탄, 예멘 등지에서 정찰 및 공격 용도로 사용돼 널리 알려진 무인 항공기나 드론 등 군용 로봇 도입을 활발히 진행해왔다. 그러나 현재 사용되고 있는 군용 로봇들은 인간이 직접 지상 기지에서 조종해야만 하며 승인 없이 목표를 살해할 수 없다.

그러나 언제 발포할 지를 스스로 결정하는 완전 자동화 로봇들은 20에서 30년 내 혹은 그보다 더 빨리 개발될 가능성이 높다고 이 보고서는 주장하고 있으며 이미 인간의 개입이 거의 요구되지 않는 무기 시스템이 이미 존재한다고 알리고 있다.

미 해군함에 설치된 미국 방산업체 레이시언 사의 팔랑크스 포(包) 시스템은 적의 포격을 감지하고 다가오는 발사체를 스스로 파괴할 수 있다. 또한 항공기 크기의 X47B 드론은 파일럿 없이도 항공모함에 이착륙 할 수 있으며 심지어 공중급유까지도 무인으로 수행할 수 있다.

대한민국의 삼성에서 개발한 센트리 로봇은 ‘터미네이터’같은 SF영화에나 등장할 법한 로봇으로 이미 한국에서 실전배치되어 있다. 이 로봇은 수상한 움직임을 포착하고 침입자들에게 암구어를 질문하며 조종자의 승인이 있을 시 적에게 발포까지 수행할 수 있다. (코리아헤럴드)