Categories
AI Media

AI job interviews with robots/chatbots, and aspects of bias

I am this week’s guest expert in think tank FUTURION’s podcast.

(Text published in Swedish on Futurion’s website)

Karin Victorin är tv-producent, kreatör med ett passionerat intresse för hur AI och robotteknologi påverkar människor och samhälle. I senaste avsnittet av podden Framtidens Färdigheter, gästar hon Futurions Ann-Therése Enarsson för att prata om risker och möjligheter när anställningsintervjuerna görs av en robot istället för en människa.

De sociala robotarna får allt större utrymme och används idag i allt högre grad som medhjälpare i rekryteringsprocesser.
– Det som verkligen exploderar just nu, tack vare ChatGPT, är rekryteringsverktyg som baseras på chatbots, säger Karin Victorin i podden.

Rekryteringsbottar marknadsförs som fördomsfria – en robot som är ”blind” kan inte döma utifrån hudfärg, ålder eller kön. Men det finns flera exempel på då det blivit fel, påpekar Karin Victorin.
– I Sydkorea hade toppstudenter svårt att få jobb när en rekryteringsbot gjorde urvalet. I intervjun fick du inte visa för starka känslor, utan var tvungen att vara neutral i ditt ansikte. En ung man som var toppstudent kom inte vidare i processen för att han visade osäkerhet i sin blick. Det här väckte stora frågor hos mig som även håller på med teater. Måste vi lära oss att ha pokerface nu?, säger Karin Victorin.

En annan risk är i chefsrekryteringar, där roboten tolkar datan som om att de bästa ledarna är män, eftersom det sett ut så historiskt. Det har lett till att verktyget främst rekryterat män.
– Det är bra att vi försöker skapa fördomsfria verktyg, men det är svårt.

AI kommer även att påverka den som förbereder sig inför en jobbintervju. Som arbetssökande kan man behöva lära sig hur roboten fungerar och lära sig att behärska sitt kroppsspråk.
– Man tränar sig på de här intervjuerna, vilket gör att vissa personer som har gjort det förut har en fördel. Det finns dyra kurser där man lär sig skådespela mot ett rekryteringsverktyg som är utrustat med biometriska system som läser av ögonkontakt, entusiasm, leende och tal. Redan med sociala medier har vi blivit väldigt medvetna om våra selfie-ansikten. Nu når det en helt ny nivå, säger Karin Victorin.

Vilka känslor är svåra att fånga för en rekryterarrobot?
– En egenskap som är svår att läsa av med biometriska system är karisma. Det är även svårt att läsa av prestationsångest eller om man tycker synd om sig själv. Komplexa känslouttryck och personlighetsdrag är fortfarande väldigt svårt.
Så varför använder man över huvud taget AI inom rekrytering och HR?
– Jag tror att det har blivit populärt för att det är väldigt kostnadseffektivt och för att det kan innebära färre fördomar i en första sortering. Men helt fördomsfri är ju ingen metod än så länge.

https://www.podbean.com/ep/pb-befrc-141da32

Categories
AI

The 18th annual Human Robot Conference in Stockholm 2023

Is happening right now in Stockholm! I felt honored to be asked to be one of the expert reviewers of the academic paper submissions for the conference. Elizabeth Jochum, associate professor at the Laboratory for Art and Technology, Aalborg University, one of the co-chairs this year, reached out to me to see if I wanted to be part of the process of choosing papers, and videos relevant to the theme of this year. The co-chairs wrote that it is challenging to find expert reviewers that grasp the relevance of creative and/or unconventional approaches to robotics research. I am more than pleased to be at the service.

This year, the aim was to attract submissions that speak to the transformative potential of interdisciplinary and transdisciplinary research. With work and research projects that highlight how the field of human-robot interaction might be enriched by diverse, and innovative perspectives. The Alt HRI co-chairs wanted to create opportunities for more creative and nontraditional research. Especially artworks or performances that present different ways of researching within HRI.

Categories
AI

We wrote a book! As part of the multidisciplinary experimental project: The Horse, the Robot & the Immeasurable.

Tove Kjellmark – The Horse, the Robot & the Immeasurable presents the practice of artist Tove Kjellmark and her extensive artistic research project currently exhibited at Färgfabriken. With texts by: Jonna Bornemark, Jonatan Habib Engqvist, Elin Hernlund, Tove Kjellmark, Sinziana Ravini, Joanna Sandell, Karin Victorin. Design: Waters Löwenhielm. Photo: Carl-Michael Herlöfsson. Published by Arvinius + Orfeus 2022.

I have written a chapter in the book titled Chimera Cyborg Creatures. An Ode to our dead horses. Here is a short quote on how I start my chapter:

Heart to heart, soul to soul…

The horse is a friendly reminder of re-connecting to the inner core

Allowing you to travel freely between human and more-than-human other worlds:

To penetrate the transparent membrane between life and death;

Assembling the human character inside a chimeric costume out of disparate parts – joined together 

Abandoning humans’ inability to accept transience:

Blindness instinctively unveiled –

Breaking the doctrine of anthropocentric reality.

Here is a link to the publisher: https://ao-publishing.com/news-article/tove-kjellmark-the-horse-the-robot-the-immeasurable-book-release-and-conversation/

Categories
AI

How Does AI see You?

Invited to talk at Verto’s Breakfast Seminar about AI Recruitment Tools

I was excited to be asked to give a talk and show slides about my research in the field of AI and Society, and to meet people that work with Human Resource Management and hiring practices. Johan Åkesson, coach at Verto encouraged me to develop my knowledge into talks and consultant services. He also liked the photo below and I know used it, not only for the presentation but as my profile picture on LinkedIn. The presentation was in Swedish and here is the text presented in the invitation.

Hur ser AI på dig?

Ett frukostseminarium om AI, chatbots och digitala rekryteringsverktyg och hur mänsklig selektiv bias tenderar att transfereras till algoritmer. 

Artificiell Intelligens och digitala verktyg tar allt större plats i rekryteringsprocesser. Hur kommer den påverka HR och rekryteringsbranschen? Samt dig personligen? Det finns visioner inom AI-teknologi att eliminera eller kringgå bias. Att genom teknologi skapa en mer neutral avläsning av människan, bortom stereotyper och fördomar som riskerar medföra diskriminering kopplat till genus, ålder, klass, ras och så vidare. 

Föreläsningen ger inga definitiva svar, utan öppnar upp för vikten av att bredda medvetenheten. Att öppna en dialog kring för- och nackdelar med AI-verktyg med fokus på rekrytering och arbetsmarknaden. Den handlar också om utmaningen vi ALLA står inför då AI alltmer inverkar på offentliga samhällsfunktioner och våra ”privata” liv. Den större frågeställningen berör; vart tar ”människan” vägen i det digitaliserade AI-samhället?

Karin Victorin har en internationell master i social science och genusvetenskap från Linköpings universitet. Hon har undersökt begrepp som agens, kropp och genus kopplat till artificiell intelligens och sociala robotar. 2021 skrev hon en masteruppsats där hon jämför ett svenskt AI-rekryteringsverktyg, i form av en rekryteringsbot som försäkrar fördomsfri rekrytering, med internationella exempel på AI och rekryteringschatbots. 2017 skapade hon en teaterföreställning på Orionteatern (Stockholm) med en social robot som protagonist, i samarbete med Furhat Robotics (KTH). Scenproduktionen resulterade i ett undersökande experiment som hon senare presenterat bland annat på Bloomberg i New York samt i en masteruppsats (2019).

Categories
AI

ARISE AMAZONS 2.0 –The Green Theory

The ceremony was performed in Nackareservatet September 18th, 2021

It could not be described with justice through my words…

Instead, I will let the images give a glimpse of the magic that was created in the urban woodland by the artists, horses, and other human or non-human participants. Or, as a woman posted on her Facebook wall.

“Last Saturday an event appeared in my feed and even though I wasn’t sure what it was, the event text intrigued me to go there. Fredrik and Björn wanted to go aswell. Not really knowing what we would see or experience we went there with a curious mind.

It was an art piece in the forest, where the creators had designed different rooms, everything from talk about grieving to tree climbing. It ended with us all gathering around a fire, and together we created a soup of the most basic ingredients but with a piece from everyone who was there. There was so much happening, and so much to write but I’ll just let the images do the talking.

It is called Arise Amazons – The Green Theory and the creative minds behind the event are the two women Rebecca Tiger and Karin Victorin.” (Isabelle Edlund, a woman I don’t know)

The art project received cultural funding from Stockholm Stad, Nacka Kommun, Kulturrådet och Konstnärsnämnden.

The Oracle
Cyborg Goddess
Pepper Potemkin
The Green Goddess
The Priestex
The Horse Caller
Ahkbar The Fire Keeper Preparing the Ceremonial Soup
The Heart Beat – Toni Sauna
The Unicorn
The Horse Receives the Soup
The Choir
Acting For Climate
Acting For Climate Flying Between The Trees
Grebnellaw with the Megaphone
The Medicine Wheel

Categories
AI Okategoriserade

AI as Gatekeepers to the Job Market

2021, so far, has been a freakin Wild Ride where I feel motivated and challenged to dare new adventures in my work and art. In this first blog post on the website of my new company, I am happy to announce that I have just completed and published a second master’s thesis on the topic of social robots and society. In spite of corona, I finally managed to push through – to continue writing – no matter what the obstacle and present a critical reading of the current phenomenon of using AI and chatbots in hiring processes. Many thanks to my supervisor professor Ericka Johnson at Linköping University for the dynamic feedback and support in the process.

https://liu.diva-portal.org/smash/record.jsf?pid=diva2%3A1572100&dswid=-4966

Abstract

The topic of this thesis is AI recruitment chatbots, digital discrimination, and data feminism (D´Ignazio and F.Klein 2020), where I aim to critically analyze issues of bias in these types of human-machine interaction technologies. Coming from a professional background of theatre, performance art, and drama,I am curious to analyze how using AI and social robots as hiring tools entails a new type of “stage” (actor’s space), with a special emphasis on social acting. Humans are now required to adjust their performance and facial expressions in the search for, and approval of, a new job. I will use my “theatrical glasses” with an intersectional lens, and through a methodology of cultural analysis, reflect on various examples of conversational AI used in recruitment processes. The silver bullet syndrome is a term that points to a tendency to believe in a miraculous new technological tool that will “magically” solve human-related problems in a company or an organization. The captivating marketing message of the Swedish recruitment conversational AI tool – Tengai Unbiased – is the promise of a scientifically proven objective hiring tool, to solve the diversity problem for company management. But is it really free from bias? According to Karen Barad, agency is not an attribute, but the ongoing reconfiguration of the world influenced by what she terms intra-actions, a mutual constitution of entanglement between human and non-human agencies (2003:818). However, tech developers often disregard their entanglement of human-to-machine interferences which unfortunately generates unconscious bias. The thesis raises ethical questions of how algorithmic measurement of social competence risks holding unconscious biases, benefiting those already privileged or those acting within a normative spectrum.