삶

당신이 꿈꾸는 직업의 면접관은 곧 로봇이 될 것입니다.

기간을 가볍게하는 방법

나는 사람이 인터뷰하는 것이 아니다. 대신 집에 앉아서 노트북을 바라보고 있습니다. 내 대답은 비디오로 녹화되고 있습니다. 그리고 내가 이 직업을 가질 수 있을지는 사람이 아니라 기계가 결정한다.

이것은 Charlie Brooker의 에피소드처럼 들릴 수 있습니다.검은 거울그러나 불과 몇 년 안에 이러한 종류의 가상 인터뷰가 표준이 될 것으로 예상됩니다. 알고리즘 '고용 전 평가'는 이미 수십억 달러 규모의 비즈니스이며 기업 고용 결정의 고정 장치가 될 가능성이 높습니다. HireVue — 제 인터뷰를 진행하는 회사 — 이 분야의 리더 중 하나입니다. 유타 주 요르단 강 유역을 따라 본사가 있는 이 회사의 고객은 힐튼 호텔에서 J.P. 모건, 유니레버에 이르기까지 700개의 우량 기업을 포함합니다. 저는 HireVue의 알고리즘이 유사한 비디오 인터뷰를 기반으로 이미 평가한 천만 명이 넘는 잠재적 직원 중 하나일 뿐입니다.

내가 인터뷰를 할 당시 그들의 인공 지능 기술이 작동한 방식은 다음과 같습니다. AI의 다음 프론티어인 '감성 AI'를 배치합니다. 이 기술은 사전, 어조, 종지 및 표정을 분석하여 구직자를 '읽습니다'. 최대 25,000개의 개별 데이터 포인트. 그런 다음 결과를 해당 역할에 대한 '이상적인' 후보자의 결과와 비교했습니다.

인터뷰 내내 화면 상의 몸통을 점선 실루엣 안에 단단히 유지해야 한다는 사실은 내가 범죄 현장에서 살인 피해자처럼 느껴질 뿐만 아니라 진정한 나 자신이 될 수 없다는 것을 의미했습니다.

실제로 이것이 의미하는 바는 내가 숨을 쉴 때마다, 일시 중지할 때마다, 눈썹을 올리는 높이, 턱을 얼마나 세게 쥐었는지, 미소를 얼마나 넓게, 단어를 선택했는지, 얼마나 크게 말했는지, 자세, 몇 번이고 나는 um or er, 내 억양, 심지어 내 전치사 사용까지 모두 녹음되어 내가 Vodafone의 대학원 연수생 프로그램에 적합한 고용인지 여부를 결정하기 위해 블랙 박스 알고리즘에 입력되었습니다. 아니면 내가 아니라 'Irina Wertz', 내 비밀 가명.

알고리즘 고용 전 평가는 대규모 고용 요구 사항에 대한 비용 효율적인 솔루션입니다. 대기업이 매년 10만 명이 넘는 지원자를 받는다는 점을 감안할 때 이 기술을 사용하면 이미 수천 명의 인력을 절약할 수 있을 것입니다. 또한 HireVue는 시스템에서 선택한 직원의 유지율과 직무 수행도 평균보다 훨씬 높다고 주장합니다. 그럴 수도 있겠지만, 그 과정에 대한 나의 경험은 조금 소외감을 느꼈습니다.

내가 화면 구석에서 그렇게 하는 것을 지켜보고 있는 질문에 답할 때, 나는 배우와 관객 모두의 불안한 역할에 캐스팅되면서 그 경험이 특히 수행적으로 느껴졌습니다.

인터뷰 내내 화면 상의 몸통을 점선 실루엣 안에 단단히 유지해야 한다는 사실은 내가 범죄 현장에서 살인 피해자처럼 느껴질 뿐만 아니라 진정한 나 자신이 될 수 없다는 것을 의미했습니다. 물론 모든 면접에서 어느 정도의 부정직함은 피할 수 없습니다. 사람이 가장 잘 만들어진 자신의 모습을 보여주려 한다는 점을 감안할 때, 하지만 이것은 달랐습니다. 나는 표현력이 뛰어난 사람입니다. 말할 때 움직이고 몸짓을 합니다. 내 실루엣에 갇힌, 나는 그것을 할 수 없습니다. 그리고 내가 화면 구석에서 그렇게 하는 것을 지켜보고 있던 질문에 답할 때, 배우와 관객 모두의 불안한 역할에 캐스팅된 경험이 특히 수행적이라고 느꼈기 때문입니다.

화면 오른쪽 상단에는 카운트다운 시계가 있어 경험의 스트레스를 더했습니다. 각 질문에 답하는 데 3분이 주어졌지만, 사람 면접관에게서 얻을 수 있는 일반적인 단서(얼굴 표정, 머리 움직임, 몸짓, 미소, 찡그린 표정) 없이 눈이 멀었습니다. 또는 내가 항상 사용할 것으로 예상되었는지 여부. 그리고 물어볼 사람이 없었을 뿐만 아니라 미소도 없었고, 내 이력서를 빤히 쳐다보는 눈도 없었고, 분석할 바디 랭귀지도 없었고, 내 '면접관'이 특정 답변을 충분히 들었는지, 무엇을 좋아하는지 알 수 없었습니다. 내 농담을 이해하고, 내 이야기에 공감하거나, 아니면 내가 그들이 원하는 후보자가 아니라고 방금 결정했을 수도 있습니다.

나의 완전하고 복잡한 인간성을 벗고 나는 결코 알 수 없는 블랙박스 알고리즘 작동을 하는 기계에 깊은 인상을 심어야 했습니다. 내 '데이터 포인트' 중 어느 부분에 중점을 두었고 어떤 부분에 가장 큰 비중을 두었습니까?

그래서 인터뷰가 진행되면서 점점 표류하는 느낌이 들었고, 계속 가야할지, 속도를 줄이거나, 기어를 변경하고, 택을 바꿀지, 스타일을 바꿀지, 더 많이 웃어야 할지, 덜 웃어야 할지 알 수 없었습니다. Vodafone의 인적 자원 대학원 연수생의 이상적인 후보자는 아마도 미소를 지을 것입니다. 그러나 몇 번, 얼마나 오랫동안?

분명히 말해서, 내가 기계 자체와 상호작용을 하고 있다는 사실이 나를 그렇게 소외감을 느끼게 한 것은 아닙니다. 오히려 문제가 된 것은 여성과 기계 사이의 힘의 불균형이었다. 나의 완전하고 복잡한 인간성을 벗고 나는 결코 알 수 없는 블랙박스 알고리즘 작동을 하는 기계에 감명을 주어야 했습니다. 내 '데이터 포인트' 중 어느 부분에 중점을 두었고 어떤 부분에 가장 큰 비중을 두었습니까? 내 목소리, 내 억양, 내 몸짓, 또는 내가 말한 내용? 나를 평가하기 위해 어떤 공식을 사용하고 있었습니까? 그리고 공정했습니까?

그 알고리즘은 과거 또는 기존의 '성공적인 고용'의 비디오 장면에 대해 훈련되었을 것입니다. 즉, 고용에 대한 역사적 편견(의식적이든 무의식적이든)이 복제될 가능성이 있음을 의미합니다.

우리는 일반적으로 기계와의 상호 작용이 우리를 느끼게 하는 맥락에서 외로움에 대해 생각하지 않습니다. 내가 비접촉 존재의 고립에 대해 이야기할 때, 나는 대면 인간 접촉의 부족과 그 영향에 중점을 두었다. 그러나 외로움이 국가와 정치가로부터 부당한 대우를 받고 권한을 박탈당한다는 느낌으로 인해 발생할 수 있는 경우, 대기업과 기업이 배포하는 신기술에 의해 그러한 대우를 받는 것도 외로움을 유발할 수 있습니다.

고용주가 우리의 직업적 미래를 알고리즘의 손에 맡길 때 우리가 공정하게 대우받거나 의미 있는 수단을 갖게 될 것이라고 믿기 어렵기 때문입니다. 부분적으로는 표정이나 목소리 톤 등의 특성으로 미래의 성과를 결정할 수 있을지에 대한 논란이 일고 있기 때문이다. 실제로 2019년 11월 전자개인정보센터 — 유명한 미국 공익 연구 기관 — HireVue에 대한 공식 불만 제기 미국 연방 통상 위원회(Federal Trade Commission)와 함께 HireVue의 '비밀의 입증되지 않은 알고리즘을 사용하여 구직자의 '인지 능력', '심리적 특성', '감정 지능', '사회적 적성'을 평가하는 것'을 인용했습니다. 흥미롭게도 2020년 초부터 회사는 얼굴 분석 사용을 중단했으며 시각적 분석은 알고리즘 평가의 다른 요소보다 직무 수행과의 상관 관계가 낮다고 결론지었습니다. 그러나 다른 회사들은 계속 그렇게 하고 있습니다.

생일의 비밀 언어

인공 지능 이력서 분류기는 여성으로만 구성된 대학의 이름이나 심지어 여성(예: '여자 체스 팀의 주장')이라는 단어가 포함된 응용 프로그램이 부적격하다는 것을 스스로에게 효과적으로 가르쳤습니다.

편견의 문제도 있습니다. 당시 HireVue는 방법론이 인간의 편견을 제거한다고 주장했지만, 그럴 가능성은 거의 없습니다. 이는 알고리즘이 과거 또는 기존의 '성공적인 고용'의 비디오 영상에 대해 훈련되기 때문입니다. 즉, 고용의 모든 역사적 편견(의식적이든 무의식적이든)이 복제될 가능성이 높습니다.

이것은 실제로 2018년 아마존에서 회사의 인공 지능 CV 분류기가 일상적으로 여성의 이력서를 거부 , 지원자의 성별을 '말'한 적이 없음에도 불구하고. 왜요? 여성으로만 구성된 대학의 이름이나 여성이라는 단어(예: '여자 체스팀 주장')가 포함된 지원서는 부적격하다는 사실을 스스로에게 효과적으로 가르쳤습니다. 지원자와 채용의 대부분이 남성인 업계에서 10년 간의 채용 데이터를 바탕으로 지원자가 '적격'인지 '무자격'인지 유추하도록 훈련받았기 때문이다. 말할 필요도 없이, 그 그룹에는 여자 체스 팀 주장이 거의 없었습니다.

성별만큼 명백한 편향을 다루기 위해 알고리즘을 조정하는 것은 비교적 간단합니다. 실제로 Amazon의 엔지니어는 모델을 쉽게 편집하여 여성과 같은 용어를 실격 사유로 사용하지 않도록 할 수 있었습니다. 그러나 기계 학습의 문제는 가장 명백한 편향의 원인이 설명되더라도(그리고 의심할 여지 없이 많은 그러한 시스템에서) 편향될 수 있다고 생각조차 할 수 없는 덜 명확하고 중립적으로 보이는 데이터 포인트는 어떻습니까?

에서 발췌 외로운 세기 : 멀어져가는 세상에서 인간 관계를 회복하는 방법,펭귄 랜덤 하우스(Penguin Random House)의 발행인 Currency에서 발행한.

Noreena Hertz Amazon의 외로운 세기