Ứng dụng chỉ dành cho nữ này sử dụng AI để sàng lọc giới tính của người dùng - điều gì có thể sai?

Một ứng dụng xã hội mới có tên Giggle đang tự quảng cáo là một nền tảng kết nối dành riêng cho nữ. Để đăng ký, người dùng phải chụp ảnh tự sướng. Và mặc dù điều đó có vẻ không quá xâm lấn, nhưng sau đó, ứng dụng này sử dụng phần mềm xác minh giới tính số liệu sinh học của hồi giáo để xác định xem người đó có phải là phụ nữ hay không. Nếu điều đó chưa đủ tệ, công nghệ sẽ không hoạt động nếu bạn chuyển đổi.

Cúc [G] iggle dành cho tất cả các cô gái, công ty chỉ ra trên trang web của mình, trước khi thêm vào, do phần mềm xác minh giới tính sử dụng, người chuyển giới sẽ gặp rắc rối với việc được xác minh. tiểu thuyết dystopian.

Cười khúc khích, được thành lập bởi nhà biên kịch người Úc Sall Grover, được cho là nhìn vào cấu trúc xương của khuôn mặt của một người để xác định giới tính của họ. Đó là vấn đề trên một số mặt trận, trong đó ít nhất là cấu trúc xương rõ ràng là một chỉ số kém về bản sắc giới. Tuy nhiên, Giggle nói rằng khoa học là âm thanh. Đây là khoa học sinh học, không phải khoa học giả như khoa nhi, trang web tuyên bố.

Ngoại trừ nó nghe rất giống khoa học giả. Trên Twitter, mọi người gọi ra transphobia vốn có của ứng dụng. Chúng tôi sẽ chờ phán quyết của chúng tôi như cừu, một người dùng đã viết. Tất cả chỉ cần một selfie, nếu cười khúc khích cho phép chúng tôi vào, chúng tôi được chào đón vào xã hội của phụ nữ, để vượt qua mãi mãi. Nếu không, chúng ta sẽ bị bỏ rơi trong một đống các bộ phận và phân.
Grover đã trả lời những lời chỉ trích, tweet rằng cô đã hỏi ý kiến ​​phụ nữ chuyển giới trong khi xây dựng ứng dụng và xác định tốt nhất là công khai thừa nhận giới hạn của phần mềm. Chúng tôi đã làm việc với những cô gái chuyển giới, những người quyết định tốt nhất là thẳng thắn với một lỗ hổng để không có bất kỳ hành vi gây tổn thương nào, cô ấy giải thích. Sau đó, cô ấy nói rằng cô ấy rất biết ơn về phản hồi và đã đồng ý rằng một số từ ngữ trên trang web là tiếng gớm ghiếc.

Chính sách bảo mật của ứng dụng cũng là một nguyên nhân gây lo ngại, tuy nhiên. Như một người dùng Twitter đã chỉ ra, Giggle có thể thu thập rất nhiều thông tin cá nhân, bao gồm hình ảnh, vị trí, sở thích và dữ liệu duyệt web của mọi người. Cười khúc khích sau đó có thể chia sẻ thông tin đó với các trang web và dịch vụ của bên thứ ba, bao gồm nhà cung cấp nhận dạng khuôn mặt, nhà cung cấp phòng trò chuyện và nhà tiếp thị. Nó cũng thu thập thông tin nhạy cảm bao gồm các hành vi tình dục hoặc đời sống tình dục của người dân, hồ sơ tội phạm của họ và thông tin sức khỏe riêng tư của họ.
Không rõ lý do tại sao Giggle sẽ cần quyền truy cập vào dữ liệu chi tiết như vậy, vì mục tiêu của nó chủ yếu là kết nối phụ nữ với bạn cùng phòng tiềm năng hoặc bạn bè du lịch. Nhưng trong thời đại giám sát ngày càng mở rộng, với các công ty như Clearview AI nhận diện khuôn mặt của mọi người mà không có kiến ​​thức hoặc sự đồng ý của họ, một ứng dụng được xây dựng trên sàng lọc sinh trắc học đáng ngờ và thu thập dữ liệu rộng rãi nên gây lo ngại. Trong khi trang web của Giggle cho biết ứng dụng này được thiết kế để cung cấp cho các cô gái sự lựa chọn, kiểm soát và kết nối, thì công nghệ của nó dường như làm điều ngược lại.

Cười khúc khích đã không trả lời ngay lập tức một yêu cầu bình luận.