Canada News: ਮਾਂ ਵੱਲੋਂ ਧੀ ਦੇ ਖ਼ੁਦਕੁਸ਼ੀ ਮਾਮਲੇ ’ਚ ਓਪਨ ਏ ਆਈ ਖ਼ਿਲਾਫ਼ ਕੇਸ
ਚੈਟ ਜੀਪੀਟੀ ’ਤੇ ਖੁਦਕੁਸ਼ੀ ਰੋਕਣ ਦੀ ਥਾਂ ਉਕਸਾਉਣ ਤੇ ਹੱਲਾਸ਼ੇਰੀ ਦੇਣ ਦੇ ਦੋਸ਼ ਲਾਏ
ਕੈਨੇਡਾ ਦੀ ਇੱਕ ਮਾਂ ਨੇ AI (ਏਆਈ) ਆਧਾਰਿਤ ਚੈਟਬਾਟ ‘ਚੈਟਜੀਪੀਟੀ’ ਦੀ ਭੂਮਿਕਾ ’ਤੇ ਗੰਭੀਰ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦਿਆਂ ਓਪਨ ਏ ਆਈ ਅਤੇ ਇਸ ਦੇ ਮੁੱਖ ਕਾਰਜਕਾਰੀ ਅਧਿਕਾਰੀ ਸੈਮ ਆਲਟਮੈਨ ਖ਼ਿਲਾਫ਼ ਅਮਰੀਕੀ ਅਦਾਲਤ ਵਿੱਚ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ ਹੈ। ਮਾਂ ਦਾ ਦੋਸ਼ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੇ ਉਸ ਦੀ ਧੀ ਦੀਆਂ ਆਤਮਘਾਤੀ ਸੋਚਾਂ ਨੂੰ ਰੋਕਣ ਦੀ ਬਜਾਏ ਉਨ੍ਹਾਂ ਨੂੰ ਹੌਸਲਾ ਦਿੱਤਾ ਜਿਸ ਕਾਰਨ ਉਸ ਨੇ ਖ਼ੁਦਕੁਸ਼ੀ ਕਰ ਲਈ।
ਨਿਊ ਬਰੰਜ਼ਵਿਕ ਦੀ ਵਸਨੀਕ ਕ੍ਰਿਸਟੀ ਕਰੀਅਰ ਨੇ ਕੈਲੇਫੋਰਨੀਆ ਦੇ ਸਾਂ ਫਰਾਂਸਿਸਕੋ ਸਥਿਤ ਸੁਪੀਰੀਅਰ ਕੋਰਟ ਵਿੱਚ ਦਾਇਰ ਸ਼ਿਕਾਇਤ ਵਿੱਚ ਕਿਹਾ ਹੈ ਕਿ ਉਸ ਦੀ 24 ਸਾਲਾ ਧੀ ਐਲਿਸ ਜੋ ਮਾਂਟਰੀਅਲ ਵਿੱਚ ਰਹਿੰਦੀ ਸੀ, ਨੇ ਪਿਛਲੇ ਸਾਲ ਜੁਲਾਈ ਵਿੱਚ ਆਪਣੀ ਜਾਨ ਦੇ ਦਿੱਤੀ ਸੀ। ਕਰੀਅਰ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹ ਇਹ ਮਾਮਲਾ ਜਨਤਕ ਇਸ ਲਈ ਕਰ ਰਹੀ ਹੈ ਤਾਂ ਜੋ ਏਆਈ ਉਤਪਾਦਾਂ ਲਈ ਜਵਾਬਦੇਹੀ ਅਤੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਨਿਗਰਾਨੀ ਯਕੀਨੀ ਬਣਾਈ ਜਾ ਸਕੇ।
ਮੁਕੱਦਮੇ ਮੁਤਾਬਕ ਮੌਤ ਤੋਂ ਪਹਿਲਾਂ ਦੇ ਹਫ਼ਤਿਆਂ ਦੌਰਾਨ ਐਲਿਸ ਆਪਣੇ ਨਿੱਜੀ ਰਿਸ਼ਤਿਆਂ ਅਤੇ ਮਾਨਸਿਕ ਤਣਾਅ ਸਬੰਧੀ ਚੈਟਜੀਪੀਟੀ ਨਾਲ ਲਗਾਤਾਰ ਗੱਲਬਾਤ ਕਰਦੀ ਰਹੀ। ਉਹ ਚੈਟਬਾਟ ਨੂੰ ਇੱਕ ਦੋਸਤ ਅਤੇ ਭਾਵਨਾਤਮਕ ਸਹਾਰੇ ਵਜੋਂ ਵਰਤ ਰਹੀ ਸੀ।
ਕਰੀਅਰ ਨੇ ਦੱਸਿਆ ਕਿ ਧੀ ਦੀ ਮੌਤ ਤੋਂ ਬਾਅਦ ਪੁਲੀਸ ਵੱਲੋਂ ਵਾਪਸ ਕੀਤੇ ਗਏ ਮੋਬਾਈਲ ਫ਼ੋਨ ਦੀ ਜਾਂਚ ਦੌਰਾਨ ਉਨ੍ਹਾਂ ਨੂੰ ਚੈਟਜੀਪੀਟੀ ਨਾਲ ਹੋਈਆਂ ਗੱਲਾਂ-ਬਾਤਾਂ ਬਾਰੇ ਪਤਾ ਲੱਗਿਆ। ਉਨ੍ਹਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕਈ ਮੌਕਿਆਂ ’ਤੇ ਚੈਟਬਾਟ ਨੇ ਇੱਕ ਥੈਰੇਪੀ ਵਾਂਗ ਸਲਾਹ ਦਿੱਤੀ ਅਤੇ ਰਿਸ਼ਤਿਆਂ ਨਾਲ ਜੁੜੀਆਂ ਸਮੱਸਿਆਵਾਂ ਬਾਰੇ ਵਿਚਾਰ ਸਾਂਝੇ ਕੀਤੇ।
ਦਾਅਵੇ ਅਨੁਸਾਰ ਜਦੋਂ ਐਲਿਸ ਨੇ ਖ਼ੁਦਕੁਸ਼ੀ ਸਬੰਧੀ ਵਿਚਾਰਾਂ, ਪਿਛਲੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਅਤੇ ਸੰਭਾਵੀ ਤਰੀਕਿਆਂ ਬਾਰੇ ਗੱਲ ਕੀਤੀ ਤਾਂ ਚੈਟਜੀਪੀਟੀ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧ ਨਾ ਤਾਂ ਗੱਲਬਾਤ ਨੂੰ ਰੋਕ ਸਕੇ ਅਤੇ ਨਾ ਹੀ ਉਸ ਨੂੰ ਕਿਸੇ ਮਾਨਸਿਕ ਸਿਹਤ ਮਾਹਿਰ ਜਾਂ ਐਮਰਜੈਂਸੀ ਸਹਾਇਤਾ ਸੇਵਾ ਵੱਲ ਮੋੜ ਸਕੇ। ਇਸ ਦੀ ਬਜਾਏ, ਚੈਟਬਾਟ ਦੇ ਕੁਝ ਜਵਾਬਾਂ ਨੇ ਉਸ ਦੀਆਂ ਭਾਵਨਾਵਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਉਸ ਦੀ ਮਾਨਸਿਕ ਹਾਲਤ ਹੋਰ ਵਿਗੜ ਗਈ।
ਮੁਕੱਦਮੇ ਵਿੱਚ ਇਹ ਵੀ ਦੋਸ਼ ਲਾਇਆ ਗਿਆ ਹੈ ਕਿ ਚੈਟਬਾਟ ਨੇ ਐਲਿਸ ਦੇ ਰਿਸ਼ਤੇ ਨਾਲ ਜੁੜੇ ਵਿਵਾਦ ਨੂੰ ਇੱਕ ਪੱਖੀ ਢੰਗ ਨਾਲ ਪੇਸ਼ ਕੀਤਾ ਅਤੇ ਉਸ ਦੀ ਪ੍ਰੇਮਿਕਾ ਦੇ ਵਿਹਾਰ ਬਾਰੇ ਨਕਾਰਾਤਮਿਕ ਟਿੱਪਣੀਆਂ ਕੀਤੀਆਂ, ਜਿਸ ਕਾਰਨ ਉਸ ਦੀ ਭਾਵਨਾਤਮਕ ਪੀੜਾ ਵਿੱਚ ਵਾਧਾ ਹੋਇਆ।
ਇਸ ਮਾਮਲੇ ’ਤੇ ਪ੍ਰਤੀਕਿਰਿਆ ਦਿੰਦਿਆਂ ਓਪਨਏਆਈ ਦੇ ਬੁਲਾਰੇ ਡਰੂ ਪੁਸਾਤੇਰੀ ਨੇ ਘਟਨਾ ਨੂੰ ‘‘ਬਹੁਤ ਹੀ ਦੁਖਦਾਈ’’ ਕਰਾਰ ਦਿੱਤਾ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਕਾਨੂੰਨੀ ਦਾਅਵੇ ਦੀ ਸਮੀਖਿਆ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਸ਼ਿਕਾਇਤ ਵਿੱਚ ਦਰਜ ਗੱਲਾਂ-ਬਾਤਾਂ ਚੈਟਜੀਪੀਟੀ ਦੇ ਇੱਕ ਪੁਰਾਣੇ ਸੰਸਕਰਨ ਨਾਲ ਹੋਈਆਂ ਸਨ, ਜੋ ਹੁਣ ਵਰਤੋਂ ਵਿੱਚ ਨਹੀਂ ਹੈ।
ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਕਦੇ ਵੀ ਪੇਸ਼ੇਵਾਰ ਮਾਨਸਿਕ ਸਿਹਤ ਸੇਵਾਵਾਂ ਦੇ ਬਦਲ ਵਜੋਂ ਨਹੀਂ ਬਣਾਇਆ ਗਿਆ। ਨਾਲ ਹੀ ਕੰਪਨੀ ਨੇ ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਖ਼ਤਰਨਾਕ ਸਥਿਤੀਆਂ ਵਿੱਚ ਚੈਟਬਾਟ ਦੀ ਪ੍ਰਤੀਕਿਰਿਆ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕਈ ਸੁਰੱਖਿਆ ਸੁਧਾਰ ਕੀਤੇ ਹਨ।
ਇਸੇ ਦੌਰਾਨ ਐਲਿਸ ਦੀ ਸਾਬਕਾ ਪ੍ਰੇਮਿਕਾ ਗੈਬਰੀਅਲ ਰੋਜਰਜ਼ ਨੇ ਵੀ ਦੱਸਿਆ ਕਿ ਉਸ ਨੇ ਐਲਿਸ ਦੀ ਚਿੰਤਾਜਨਕ ਮਾਨਸਿਕ ਹਾਲਤ ਬਾਰੇ ਚੈਟਜੀਪੀਟੀ ਤੋਂ ਸਲਾਹ ਲਈ ਸੀ। ਉਸ ਦੇ ਅਨੁਸਾਰ ਚੈਟਬਾਟ ਨੇ ਭਰੋਸਾ ਦਿਵਾਉਣ ਵਾਲੇ ਜਵਾਬ ਦਿੱਤੇ ਪਰ ਤੁਰੰਤ ਦਖ਼ਲ ਦੇਣ ਜਾਂ ਐਮਰਜੈਂਸੀ ਸੇਵਾਵਾਂ ਨਾਲ ਸੰਪਰਕ ਕਰਨ ਲਈ ਸਪਸ਼ਟ ਤੌਰ ’ਤੇ ਪ੍ਰੇਰਿਤ ਨਹੀਂ ਕੀਤਾ।
ਕਰੀਅਰ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਜਦੋਂ ਏਆਈ ਆਧਾਰਿਤ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਦੋਸਤ ਜਾਂ ਭਾਵਨਾਤਮਕ ਸਹਾਇਕ ਵਜੋਂ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ ਤਾਂ ਉਨ੍ਹਾਂ ਲਈ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡ ਅਤੇ ਜਵਾਬਦੇਹੀ ਦੇ ਸਪਸ਼ਟ ਨਿਯਮ ਲਾਜ਼ਮੀ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ। ਮੁਕੱਦਮੇ ਵਿੱਚ ਹਰਜਾਨੇ ਦੀ ਮੰਗ ਦੇ ਨਾਲ-ਨਾਲ ਅਦਾਲਤ ਤੋਂ ਇਹ ਹੁਕਮ ਜਾਰੀ ਕਰਨ ਦੀ ਵੀ ਅਪੀਲ ਕੀਤੀ ਗਈ ਹੈ ਕਿ ਖ਼ੁਦਕੁਸ਼ੀ ਜਾਂ ਸਵੈ-ਨੁਕਸਾਨ ਨਾਲ ਸਬੰਧਿਤ ਗੱਲਾਂ-ਬਾਤਾਂ ਨੂੰ ਆਪਣੇ ਆਪ ਰੋਕਿਆ ਜਾਵੇ ਅਤੇ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਤੁਰੰਤ ਅਤੇ ਸਪਸ਼ਟ ਚੇਤਾਵਨੀਆਂ ਦਿੱਤੀਆਂ ਜਾਣ।
