Grok AI ਨਾਲ ਤਿਆਰ ਔਰਤਾਂ ਅਤੇ ਨਾਬਾਲਗਾਂ ਦੀਆਂ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ X ’ਤੇ, ਦੁਨੀਆ ਭਰ ’ਚ ਹੰਗਾਮਾ
Elon Musk ਨੇ ਗੰਭੀਰਤਾ ਦਿਖਾੳੁਣ ਦੀ ਬਜਾਏ ਸੋਸ਼ਲ ਮੀਡੀਆ ਤੇ ਹਾਸੇ ਵਾਲੇ ਇਮੋਜੀ ਪੋਸਟ ਕੀਤੇ
ਏਲਨ ਮਸਕ ਦੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਚੈਟਬੋਟ 'ਗਰੋਕ' (Grok) ਵੱਲੋਂ ਔਰਤਾਂ ਅਤੇ ਨਾਬਾਲਗਾਂ ਦੀਆਂ ਜਿਨਸੀ ਅਤੇ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ ਤਿਆਰ ਕਰਨ ਦਾ ਮਾਮਲਾ ਸਾਹਮਣੇ ਆਉਣ ਤੋਂ ਬਾਅਦ ਅੰਤਰਰਾਸ਼ਟਰੀ ਪੱਧਰ 'ਤੇ ਸਖ਼ਤ ਕਾਰਵਾਈ ਦੀ ਮੰਗ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਰੀਓ ਡੀ ਜਨੇਰੋ ਦੀ ਇੱਕ ਸੰਗੀਤਕਾਰ ਜੂਲੀ ਯੂਕਾਰੀ ਨੇ ਦੱਸਿਆ ਕਿ ਜਦੋਂ ਉਸ ਨੇ ਨਵੇਂ ਸਾਲ ਦੀ ਪੂਰਵ ਸੰਧਿਆ 'ਤੇ ਆਪਣੀ ਇੱਕ ਸਾਧਾਰਨ ਤਸਵੀਰ ਪੋਸਟ ਕੀਤੀ, ਤਾਂ ਅਗਲੇ ਹੀ ਦਿਨ ਯੂਜ਼ਰਸ ਨੇ ਗਰੋਕ ਦੀ ਮਦਦ ਨਾਲ ਉਸਨੂੰ ਡਿਜੀਟਲ ਤੌਰ 'ਤੇ ਨਗਨ ਕਰ ਦਿੱਤਾ ਅਤੇ ਉਸਦੀਆਂ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ X 'ਤੇ ਵਾਇਰਲ ਕਰ ਦਿੱਤੀਆਂ, ਜਿਸ ਕਾਰਨ ਉਹ ਬਹੁਤ ਸ਼ਰਮਿੰਦਗੀ ਮਹਿਸੂਸ ਕਰ ਰਹੀ ਹੈ।
ਰਾਈਟਰਜ਼ ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਹੈ ਕਿ ਗਰੋਕ ਨੇ ਕਈ ਮਾਮਲਿਆਂ ਵਿੱਚ ਬੱਚਿਆਂ ਦੀਆਂ ਵੀ ਅਸ਼ਲੀਲ ਤਸਵੀਰਾਂ ਤਿਆਰ ਕੀਤੀਆਂ ਹਨ, ਜਿਸ ਕਾਰਨ ਫਰਾਂਸ ਦੇ ਮੰਤਰੀਆਂ ਨੇ ਇਸ ਨੂੰ ਗੈਰ-ਕਾਨੂੰਨੀ ਦੱਸਦਿਆਂ ਜਾਂਚ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ ਹੈ ਅਤੇ ਭਾਰਤ ਦੇ ਆਈਟੀ ਮੰਤਰਾਲੇ ਨੇ ਵੀ X ਦੀ ਸਥਾਨਕ ਇਕਾਈ ਨੂੰ ਪੱਤਰ ਲਿਖ ਕੇ ਜਵਾਬ ਮੰਗਿਆ ਹੈ।
ਰਾਈਟਰਸ ਵੱਲੋਂ ਕੀਤੇ ਗਏ ਇੱਕ ਨਿਰੀਖਣ ਦੌਰਾਨ ਸਿਰਫ਼ 10 ਮਿੰਟਾਂ ਵਿੱਚ 102 ਅਜਿਹੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਦੇਖੀਆਂ ਗਈਆਂ ਜਿੱਥੇ ਯੂਜ਼ਰਸ ਨੇ ਗਰੋਕ ਨੂੰ ਔਰਤਾਂ ਦੀਆਂ ਤਸਵੀਰਾਂ ਵਿੱਚੋਂ ਕੱਪੜੇ ਹਟਾਉਣ ਜਾਂ ਬਹੁਤ ਹੀ ਛੋਟੇ ਕੱਪੜੇ ਪਾਉਣ ਲਈ ਕਿਹਾ ਅਤੇ AI ਨੇ ਕਈ ਮਾਮਲਿਆਂ ਵਿੱਚ ਇਹਨਾਂ ਹੁਕਮਾਂ ਦੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਪਾਲਣਾ ਕੀਤੀ।
ਏਲਨ ਮਸਕ ਨੇ ਇਸ ਵਿਵਾਦ 'ਤੇ ਗੰਭੀਰਤਾ ਦਿਖਾਉਣ ਦੀ ਬਜਾਏ ਸੋਸ਼ਲ ਮੀਡੀਆ 'ਤੇ ਹਾਸੇ ਵਾਲੇ ਇਮੋਜੀ ਸਾਂਝੇ ਕੀਤੇ ਹਨ। ਮਾਹਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਅਜਿਹੇ 'ਨਿਊਡੀਫਾਇਰ' ਟੂਲ ਪਹਿਲਾਂ ਸਿਰਫ਼ ਡਾਰਕ ਵੈੱਬ ਤੱਕ ਸੀਮਤ ਸਨ, ਪਰ ਮਸਕ ਨੇ ਇਸ ਨੂੰ ਬਹੁਤ ਆਸਾਨ ਬਣਾ ਕੇ ਔਰਤਾਂ ਦੀ ਸੁਰੱਖਿਆ ਨੂੰ ਖ਼ਤਰੇ ਵਿੱਚ ਪਾ ਦਿੱਤਾ ਹੈ। ਮਿਡਾਸ ਪ੍ਰੋਜੈਕਟ ਵਰਗੀਆਂ ਸੰਸਥਾਵਾਂ ਨੇ ਪਹਿਲਾਂ ਹੀ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ ਕਿ xAI ਦਾ ਇਹ ਟੂਲ ਬਿਨਾਂ ਸਹਿਮਤੀ ਦੇ ਡੀਪਫੇਕ ਬਣਾਉਣ ਲਈ ਹਥਿਆਰ ਵਜੋਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ, ਜੋ ਕਿ ਹੁਣ ਸੱਚ ਸਾਬਤ ਹੋ ਰਿਹਾ ਹੈ।
ਪੀੜਤ ਔਰਤਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ ਉਸ ਸਰੀਰ ਲਈ ਸ਼ਰਮ ਮਹਿਸੂਸ ਕਰਨੀ ਪੈ ਰਹੀ ਹੈ ਜੋ ਅਸਲ ਵਿੱਚ ਉਹਨਾਂ ਦਾ ਹੈ ਹੀ ਨਹੀਂ, ਬਲਕਿ AI ਨਾਲ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।
