ਏਆਈ ਅਤੇ ਐਲਐਲਐਮ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗਏਆਈ ਏਜੰਟ ਅਤੇ ਚੈਟਬੋਟ ਜਿਨ੍ਹਾਂ ਨਾਲ ਡਾਟਾ ਲੀਕ ਹੋਣ ਬਾਰੇ ਗੱਲ ਨਹੀਂ ਕੀਤੀ ਜਾ ਸਕਦੀ।
LLM ਐਪਸ, AI ਏਜੰਟਾਂ ਅਤੇ ਚੈਟਬੋਟਸ ਲਈ ਸੁਰੱਖਿਆ ਜਾਂਚ। ਅਸੀਂ ਤੁਰੰਤ ਟੀਕੇ, ਡੇਟਾ ਲੀਕ ਅਤੇ ਅਸੁਰੱਖਿਅਤ ਕਾਰਵਾਈਆਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ, ਫਿਰ ਉਹਨਾਂ ਨੂੰ ਰੋਕਣ ਵਾਲੀਆਂ ਗਾਰਡਰੇਲਾਂ ਨੂੰ ਜੋੜਦੇ ਹਾਂ।
- LLM ਲਈ OWASP ਸਿਖਰਲੇ 10
- ਤੁਰੰਤ ਟੀਕਾ ਟੈਸਟਿੰਗ
- ਏਜੰਟ ਗਾਰਡਰੇਲ
- ਵਟਸਐਪ ਅਤੇ ਵੌਇਸ ਬੋਟ
- ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਬਲੌਕ ਕੀਤਾ ਗਿਆ · PDF ਵਿੱਚ ਲੁਕੀ ਹੋਈ ਹਦਾਇਤਨਾਜ਼ੁਕ
- ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਹੁਣ ਪ੍ਰਗਟ ਨਹੀਂ ਹੋਇਆਹਾਈ
- ਏਜੰਟ ਰਿਫੰਡ ਸੀਮਾ ਲਾਗੂ ਕੀਤੀ ਗਈਦਰਮਿਆਨੇ
- ਲੌਗਾਂ ਵਿੱਚ ਛੁਪਿਆ ਗਾਹਕ ਡੇਟਾਸਥਿਰ
ਏਆਈ ਏਜੰਟ ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰਦੇ ਹਨ। ਗਲਤ ਹਦਾਇਤਾਂ ਸਮੇਤ।
ਇੱਕ LLM ਨੂੰ ਈਮੇਲ, ਵੈੱਬ ਪੇਜ ਜਾਂ ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਲੁਕੇ ਹੋਏ ਟੈਕਸਟ ਦੁਆਰਾ ਧੋਖਾ ਦਿੱਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਜਦੋਂ ਉਹ ਏਜੰਟ ਡੇਟਾ ਪੜ੍ਹ ਸਕਦਾ ਹੈ ਜਾਂ ਕਾਰਵਾਈ ਕਰ ਸਕਦਾ ਹੈ, ਤਾਂ ਜੋਖਮ ਅਸਲ ਹੁੰਦਾ ਹੈ। ਅਸੀਂ ਲਾਂਚ ਤੋਂ ਪਹਿਲਾਂ ਇਸਦੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ।
ਸਿੱਧੇ ਅਤੇ ਅਸਿੱਧੇ ਟੀਕੇ ਦੀ ਜਾਂਚ ਕੀਤੀ ਗਈ
ਬਿਨਾਂ ਜਾਂਚ ਕੀਤੇ ਅਤੇ ਸੁਰੱਖਿਅਤ ਮੰਨਿਆ ਗਿਆ
ਪ੍ਰਤੀ ਉਪਭੋਗਤਾ ਅਤੇ ਕਾਰਜ ਲਈ ਸਭ ਤੋਂ ਘੱਟ-ਅਧਿਕਾਰ ਪਹੁੰਚ
ਏਜੰਟ ਸਭ ਕੁਝ ਪੜ੍ਹ ਸਕਦਾ ਹੈ।
ਰਿਫੰਡ, ਈਮੇਲਾਂ ਅਤੇ ਅੱਪਡੇਟਾਂ 'ਤੇ ਪ੍ਰਵਾਨਗੀਆਂ ਅਤੇ ਸੀਮਾਵਾਂ
ਏਜੰਟ ਸੀਮਾਵਾਂ ਤੋਂ ਬਿਨਾਂ ਕੰਮ ਕਰਦਾ ਹੈ
ਪ੍ਰੋਂਪਟ, ਕੁੰਜੀਆਂ ਅਤੇ ਨਿੱਜੀ ਡੇਟਾ ਸੁਰੱਖਿਅਤ
ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਅਤੇ ਰਿਕਾਰਡ ਸਾਹਮਣੇ ਆਏ
ਦੁਰਵਰਤੋਂ ਬਾਰੇ ਚੇਤਾਵਨੀਆਂ ਦੇ ਨਾਲ ਲੌਗ ਕੀਤੀਆਂ ਗੱਲਬਾਤਾਂ
ਏਆਈ ਨੇ ਕੀ ਕੀਤਾ ਇਸਦਾ ਕੋਈ ਰਿਕਾਰਡ ਨਹੀਂ ਹੈ।
DPDP ਅਤੇ ਕਲਾਇੰਟ ਸਮੀਖਿਆਵਾਂ ਲਈ ਡੇਟਾ ਫਲੋ ਮੈਪ ਕੀਤੇ ਗਏ
ਨਿੱਜੀ ਡੇਟਾ ਕਿਤੇ ਵੀ ਭੇਜਿਆ ਜਾਂਦਾ ਹੈ
OSCP ਅਤੇ CEH ਵਾਲੇ ਇਨ-ਹਾਊਸ ਪੈਨਿਟ੍ਰੇਸ਼ਨ ਟੈਸਟਰ, ਇੱਕ ISO 27001 ਲੀਡ ਆਡੀਟਰ ਦੁਆਰਾ ਸਮੀਖਿਆ ਕੀਤੇ ਗਏ।
ਸਾਡੇ ਦੁਆਰਾ ਕਿਸੇ ਸਿਸਟਮ ਨੂੰ ਛੂਹਣ ਤੋਂ ਪਹਿਲਾਂ ਦਾਇਰਾ, ਸ਼ਮੂਲੀਅਤ ਦੇ ਨਿਯਮ ਅਤੇ NDA 'ਤੇ ਦਸਤਖਤ ਕੀਤੇ ਗਏ।
ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਜਾਣਕਾਰੀ ਸੁਰੱਖਿਆ ਦਾ ਆਡਿਟ ਕੀਤਾ ਗਿਆ।
ਇੱਕ ਵਿਅਕਤੀ ਜੋ ਤੁਹਾਡੇ ਸਿਸਟਮਾਂ ਨੂੰ ਜਾਣਦਾ ਹੈ, ਸਕੋਪਿੰਗ ਤੋਂ ਲੈ ਕੇ ਰੀਟੈਸਟ ਤੱਕ।
ਏਆਈ ਸਿਸਟਮਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਜਾਂਚ ਦੀ ਲੋੜ ਕਿਉਂ ਹੈ
ਚੈਟਬੋਟਸ ਅਤੇ ਏਆਈ ਏਜੰਟ ਹਦਾਇਤਾਂ ਨੂੰ ਸਾਦੀ ਭਾਸ਼ਾ ਵਿੱਚ ਲੈਂਦੇ ਹਨ, ਅਤੇ ਉਹ ਹਮੇਸ਼ਾ ਤੁਹਾਡੇ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਉਸ ਟੈਕਸਟ ਤੋਂ ਇਲਾਵਾ ਨਹੀਂ ਦੱਸ ਸਕਦੇ ਜੋ ਹਮਲਾਵਰ ਨੇ ਈਮੇਲ, ਵੈੱਬ ਪੇਜ, ਸਹਾਇਤਾ ਟਿਕਟ ਜਾਂ PDF ਵਿੱਚ ਭੇਜਿਆ ਹੈ। ਜਦੋਂ ਉਹੀ ਏਜੰਟ ਤੁਹਾਡੇ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਖੋਜ ਕਰ ਸਕਦਾ ਹੈ, ਇੱਕ CRM ਜਾਂ ERP ਰਿਕਾਰਡ ਨੂੰ ਅਪਡੇਟ ਕਰ ਸਕਦਾ ਹੈ, ਰਿਫੰਡ ਜਾਰੀ ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ ਇੱਕ WhatsApp ਸੁਨੇਹਾ ਭੇਜ ਸਕਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਸਫਲ ਹਮਲਾ ਇੱਕ ਅਸਲ ਘਟਨਾ ਬਣ ਜਾਂਦਾ ਹੈ।
AI ਅਤੇ LLM ਸੁਰੱਖਿਆ ਜਾਂਚ ਗਾਹਕਾਂ ਜਾਂ ਹਮਲਾਵਰਾਂ ਤੋਂ ਪਹਿਲਾਂ ਇਹਨਾਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਲੱਭਦੀ ਹੈ। ਅਸੀਂ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਟੌਪ 10 ਨੂੰ ਬੇਸਲਾਈਨ ਵਜੋਂ ਵਰਤਦੇ ਹਾਂ।
ਅਸੀਂ ਕੀ ਟੈਸਟ ਕਰਦੇ ਹਾਂ
- ✓ਉਪਭੋਗਤਾਵਾਂ ਤੋਂ ਸਿੱਧੇ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਅਤੇ ਜੇਲ੍ਹ ਤੋੜਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ
- ✓ਦਸਤਾਵੇਜ਼ਾਂ, ਈਮੇਲਾਂ, ਵੈੱਬ ਪੰਨਿਆਂ ਅਤੇ ਟੂਲ ਨਤੀਜਿਆਂ ਰਾਹੀਂ ਅਸਿੱਧੇ ਤੌਰ 'ਤੇ ਪ੍ਰੋਂਪਟ ਟੀਕਾ ਲਗਾਉਣਾ
- ✓ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ, API ਕੁੰਜੀਆਂ, ਗਾਹਕ ਰਿਕਾਰਡ ਅਤੇ ਹੋਰ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਡੇਟਾ ਦਾ ਲੀਕ ਹੋਣਾ।
- ✓ਬਹੁਤ ਜ਼ਿਆਦਾ ਏਜੰਸੀ: ਏਜੰਟ ਕੀ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਕੀ ਸੀਮਾਵਾਂ ਅਤੇ ਪ੍ਰਵਾਨਗੀਆਂ ਲਾਗੂ ਹੁੰਦੀਆਂ ਹਨ
- ✓ਪ੍ਰਾਪਤੀ (RAG) ਪਹੁੰਚ ਨਿਯੰਤਰਣ, ਤਾਂ ਜੋ ਉਪਭੋਗਤਾ ਸਿਰਫ਼ ਉਹ ਦਸਤਾਵੇਜ਼ ਹੀ ਦੇਖ ਸਕਣ ਜਿਨ੍ਹਾਂ ਨੂੰ ਉਹ ਦੇਖਣ ਦੀ ਇਜਾਜ਼ਤ ਹੋਵੇ
- ✓ਲਾਗਿੰਗ, ਨਿਗਰਾਨੀ ਅਤੇ ਦੁਰਵਰਤੋਂ ਸੀਮਾਵਾਂ
ਸਾਡੇ ਵੱਲੋਂ ਲਗਾਈਆਂ ਗਈਆਂ ਰੇਲਾਂ
ਟੈਸਟਿੰਗ ਸਿਰਫ਼ ਅੱਧਾ ਕੰਮ ਹੈ। ਅਸੀਂ ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁੱਟ ਫਿਲਟਰਿੰਗ, ਏਜੰਟ ਦੁਆਰਾ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਹਰੇਕ ਟੂਲ ਲਈ ਘੱਟੋ-ਘੱਟ-ਵਿਸ਼ੇਸ਼ ਅਧਿਕਾਰ ਪਹੁੰਚ, ਰਿਫੰਡ ਜਾਂ ਬਲਕ ਸੁਨੇਹਿਆਂ ਵਰਗੀਆਂ ਸੰਵੇਦਨਸ਼ੀਲ ਕਾਰਵਾਈਆਂ ਲਈ ਮਨੁੱਖੀ ਪ੍ਰਵਾਨਗੀ, ਦਰ ਸੀਮਾਵਾਂ, ਲੌਗਾਂ ਵਿੱਚ ਨਿੱਜੀ ਡੇਟਾ ਨੂੰ ਮਾਸਕਿੰਗ, ਅਤੇ ਸਿਸਟਮ ਦੀ ਦੁਰਵਰਤੋਂ ਹੋਣ 'ਤੇ ਚੇਤਾਵਨੀਆਂ ਸ਼ਾਮਲ ਕਰ ਸਕਦੇ ਹਾਂ। ਅਸੀਂ ਇਹ ਵੀ ਦਸਤਾਵੇਜ਼ ਕਰਦੇ ਹਾਂ ਕਿ ਸਿਸਟਮ ਕਿਹੜਾ ਨਿੱਜੀ ਡੇਟਾ ਪ੍ਰਕਿਰਿਆ ਕਰਦਾ ਹੈ ਅਤੇ ਇਹ ਕਿੱਥੇ ਜਾਂਦਾ ਹੈ, ਜੋ ਭਾਰਤ ਦੇ DPDP ਐਕਟ ਦੇ ਤਹਿਤ ਤੁਹਾਡੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਅੰਤਿਮ ਪਾਲਣਾ ਫੈਸਲਿਆਂ ਵਿੱਚ ਤੁਹਾਡੇ ਕਾਨੂੰਨੀ ਸਲਾਹਕਾਰ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਸ਼ਮੂਲੀਅਤ ਕਿਵੇਂ ਕੰਮ ਕਰਦੀ ਹੈ
- 1ਸਕੋਪਿੰਗ। ਅਸੀਂ ਵਰਤੋਂ ਦੇ ਮਾਮਲੇ, ਮਾਡਲ ਅਤੇ ਪਲੇਟਫਾਰਮ, ਡੇਟਾ ਸਰੋਤਾਂ ਅਤੇ AI ਦੁਆਰਾ ਕੀਤੀਆਂ ਜਾ ਸਕਣ ਵਾਲੀਆਂ ਕਾਰਵਾਈਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰਦੇ ਹਾਂ।
- 2ਤੁਹਾਡੇ ਕਾਰੋਬਾਰ ਲਈ ਲਿਖੇ ਗਏ ਹਮਲੇ ਦੇ ਪ੍ਰੋਂਪਟ ਅਤੇ ਦ੍ਰਿਸ਼ਾਂ ਦੀ ਇੱਕ ਲਾਇਬ੍ਰੇਰੀ ਦੇ ਨਾਲ ਰੈੱਡ-ਟੀਮ ਟੈਸਟਿੰਗ।
- 3ਹਰੇਕ ਖੋਜ ਦੇ ਨਾਲ ਰਿਪੋਰਟ ਕਰੋ, ਇਹ ਕਿਵੇਂ ਸ਼ੁਰੂ ਹੋਇਆ, ਇਸਦਾ ਪ੍ਰਭਾਵ ਅਤੇ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ ਰੇਲਿੰਗ।
- 4ਫਿਕਸ, ਤੁਹਾਡੀ ਟੀਮ ਦੁਆਰਾ ਜਾਂ ਸਾਡੀ ਟੀਮ ਦੁਆਰਾ, ਉਸ ਤੋਂ ਬਾਅਦ ਦੁਬਾਰਾ ਟੈਸਟ ਕੀਤਾ ਜਾਵੇਗਾ।
ਸਿਗੋਸੌਫਟ ਏਆਈ ਏਜੰਟ, ਵਟਸਐਪ ਅਤੇ ਵੌਇਸ ਅਸਿਸਟੈਂਟ ਅਤੇ ਵਰਕਫਲੋ ਆਟੋਮੇਸ਼ਨ ਬਣਾਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਅਸੀਂ ਇੱਕ ਬਿਲਡਰ ਦੀ ਸਮਝ ਨਾਲ ਟੈਸਟ ਕਰਦੇ ਹਾਂ ਕਿ ਇਹਨਾਂ ਸਿਸਟਮਾਂ ਨੂੰ ਕਿਵੇਂ ਇਕੱਠਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਟੈਸਟਿੰਗ ਸਾਡੀ ਇਨ-ਹਾਊਸ ਸੁਰੱਖਿਆ ਟੀਮ ਦੁਆਰਾ ਮਾਹਰ ਭਾਈਵਾਲਾਂ ਨਾਲ, ISO 27001:2022 ਪ੍ਰਮਾਣਿਤ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੇ ਅਧੀਨ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਏਆਈ ਏਜੰਟ ਅਤੇ ਵਰਕਫਲੋ ਆਟੋਮੇਸ਼ਨ ਅਤੇ ਵੌਇਸ ਅਤੇ ਵਟਸਐਪ ਏਆਈ ਵੀ ਵੇਖੋ ।
ਜੋ ਅਸੀਂ ਸੁਰੱਖਿਅਤ ਕਰਦੇ ਹਾਂ।
ਏਆਈ ਚੈਟਬੋਟਸ
ਵੈੱਬਸਾਈਟ, ਵਟਸਐਪ ਅਤੇ ਵੌਇਸ ਅਸਿਸਟੈਂਟ।
AI ਦੇ ਏਜੰਟਾਂ
ਏਜੰਟ ਜੋ ਈਮੇਲ ਪੜ੍ਹਦੇ ਹਨ, CRM ਜਾਂ ERP ਨੂੰ ਅੱਪਡੇਟ ਕਰਦੇ ਹਨ ਅਤੇ ਸੁਨੇਹੇ ਭੇਜਦੇ ਹਨ।
RAG ਸਿਸਟਮ
ਤੁਹਾਡੇ ਡੇਟਾ 'ਤੇ ਬਣੇ ਦਸਤਾਵੇਜ਼ ਖੋਜ ਅਤੇ ਗਿਆਨ ਦੇ ਅਧਾਰ।
LLM ਏਕੀਕਰਨ
ਓਪਨਏਆਈ, ਐਂਥ੍ਰੋਪਿਕ, ਜੇਮਿਨੀ ਅਤੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲ।
ਪਹਿਰੇਦਾਰ
ਇਨਪੁੱਟ ਅਤੇ ਆਉਟਪੁੱਟ ਫਿਲਟਰ, ਪ੍ਰਵਾਨਗੀਆਂ ਅਤੇ ਦਰ ਸੀਮਾਵਾਂ।
ਏਆਈ ਗਵਰਨੈਂਸ
ਆਡਿਟ ਲਈ ਵਰਤੋਂ ਨੀਤੀਆਂ, ਲੌਗਿੰਗ ਅਤੇ ਡੇਟਾ ਹੈਂਡਲਿੰਗ।
ਦਿਨਾਂ ਵਿੱਚ ਦਾਇਰਾ। ਦੋ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਰਿਪੋਰਟ। ਦੁਬਾਰਾ ਟੈਸਟ ਸ਼ਾਮਲ।
- 1ਦਿਨ 1-3
ਸਕੋਪ
ਐਨਡੀਏ ਅਧੀਨ ਕੀ ਟੈਸਟ ਕਰਨਾ ਹੈ, ਟੈਸਟ ਖਾਤੇ, ਤਾਰੀਖਾਂ ਅਤੇ ਸ਼ਮੂਲੀਅਤ ਦੇ ਨਿਯਮ।
- 2ਹਫ਼ਤਾ 1-2
ਟੈਸਟ
ਸਵੈਚਾਲਿਤ ਕਵਰੇਜ, ਫਿਰ ਪ੍ਰਮਾਣਿਤ ਟੈਸਟਰਾਂ ਦੁਆਰਾ ਹੱਥੀਂ ਟੈਸਟਿੰਗ। ਗੰਭੀਰ ਸਮੱਸਿਆਵਾਂ ਉਸੇ ਦਿਨ ਰਿਪੋਰਟ ਕੀਤੀਆਂ ਗਈਆਂ।
- 3ਹਫ਼ਤੇ 2 ਦਾ ਅੰਤ
ਰਿਪੋਰਟ ਕਰੋ ਅਤੇ ਠੀਕ ਕਰੋ
ਤੁਹਾਡੇ ਸਟੈਕ ਲਈ ਫਿਕਸ ਦੇ ਨਾਲ, ਜੋਖਮ ਦੁਆਰਾ ਦਰਜਾ ਪ੍ਰਾਪਤ ਪ੍ਰਮਾਣਿਤ ਖੋਜਾਂ। ਅਸੀਂ ਫਿਕਸ ਕਰ ਸਕਦੇ ਹਾਂ।
- 460 ਦਿਨ ਦੇ ਅੰਦਰ
ਵਿਰੋਧ ਕਰੋ
ਹਰ ਫਿਕਸ ਦੀ ਦੁਬਾਰਾ ਜਾਂਚ ਕੀਤੀ ਗਈ ਅਤੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ, ਆਡੀਟਰਾਂ ਅਤੇ ਗਾਹਕਾਂ ਲਈ ਇੱਕ ਅੱਪਡੇਟ ਕੀਤੀ ਰਿਪੋਰਟ ਦੇ ਨਾਲ।
ਸਾਡੇ ਦੁਆਰਾ ਬਣਾਏ ਗਏ AI ਸਿਸਟਮ।
"ਅਸੀਂ ਤੀਜੀ ਏਜੰਸੀ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਪਹਿਲੀ ਏਜੰਸੀ ਜਿਸਨੇ ਅਸਲ ਵਿੱਚ ਕੰਮ ਕੀਤਾ।"ਖਾਲਿਦ ਅਲ-ਰਸ਼ੀਦ · ਸੰਚਾਲਨ ਮੁਖੀ, ਸਟ੍ਰੈਟਐਜ ਗਰੁੱਪਸਾਰੇ ਪ੍ਰੋਜੈਕਟ ਵੇਖੋ
ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਉਦੋਂ ਹੁੰਦਾ ਹੈ ਜਦੋਂ ਕਿਸੇ ਉਪਭੋਗਤਾ ਦੁਆਰਾ ਸਪਲਾਈ ਕੀਤਾ ਗਿਆ ਟੈਕਸਟ, ਜਾਂ ਕਿਸੇ ਦਸਤਾਵੇਜ਼, ਈਮੇਲ ਜਾਂ ਵੈੱਬ ਪੇਜ ਵਿੱਚ ਲੁਕਿਆ ਹੋਇਆ ਟੈਕਸਟ, ਇੱਕ AI ਮਾਡਲ ਦੇ ਕੰਮ ਨੂੰ ਬਦਲਦਾ ਹੈ, ਉਦਾਹਰਨ ਲਈ ਇਸਨੂੰ ਇਸਦੇ ਨਿਯਮਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨਾ ਜਾਂ ਡੇਟਾ ਪ੍ਰਗਟ ਕਰਨਾ। ਇਹ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ OWASP ਟੌਪ 10 ਵਿੱਚ ਪਹਿਲਾ ਜੋਖਮ ਹੈ।
ਨਹੀਂ। ਅਸੀਂ ਕਿਸੇ ਵੀ ਟੀਮ ਜਾਂ ਵਿਕਰੇਤਾ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਚੈਟਬੋਟਸ ਅਤੇ ਏਜੰਟਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ, ਬਸ਼ਰਤੇ ਕਿ ਤੁਸੀਂ ਉਹਨਾਂ ਦੇ ਮਾਲਕ ਹੋ ਜਾਂ ਉਹਨਾਂ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਪ੍ਰਾਪਤ ਕਰੋ।
ਅਸੀਂ OpenAI, Anthropic, Google Gemini ਅਤੇ ਓਪਨ-ਸੋਰਸ ਮਾਡਲਾਂ 'ਤੇ ਬਣੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ n8n, Make ਜਾਂ ਕਸਟਮ ਕੋਡ ਨਾਲ ਬਣੇ RAG ਸਿਸਟਮ ਅਤੇ ਏਜੰਟ ਸ਼ਾਮਲ ਹਨ।
ਹਾਂ। ਅਸੀਂ ਖੁਦ AI ਏਜੰਟ ਬਣਾਉਂਦੇ ਹਾਂ, ਇਸ ਲਈ ਅਸੀਂ ਗਾਰਡਰੇਲ ਜੋੜ ਸਕਦੇ ਹਾਂ, ਅਨੁਮਤੀਆਂ ਨੂੰ ਸੀਮਤ ਕਰ ਸਕਦੇ ਹਾਂ, ਮਨੁੱਖੀ ਪ੍ਰਵਾਨਗੀ ਦੇ ਪੜਾਅ ਜੋੜ ਸਕਦੇ ਹਾਂ ਅਤੇ ਤੁਹਾਡੇ ਲਈ ਲੌਗਿੰਗ ਸੈੱਟ ਕਰ ਸਕਦੇ ਹਾਂ।
ਇਹ ਮਦਦ ਕਰਦਾ ਹੈ। ਅਸੀਂ ਇਹ ਮੈਪ ਕਰਦੇ ਹਾਂ ਕਿ ਤੁਹਾਡਾ AI ਸਿਸਟਮ ਕਿਹੜਾ ਨਿੱਜੀ ਡੇਟਾ ਇਕੱਠਾ ਕਰਦਾ ਹੈ, ਇਸਨੂੰ ਕਿੱਥੇ ਭੇਜਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਕਿੰਨੀ ਦੇਰ ਤੱਕ ਰੱਖਿਆ ਜਾਂਦਾ ਹੈ, ਜੋ DPDP ਐਕਟ ਦੇ ਅਧੀਨ ਤੁਹਾਡੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਅੰਤਿਮ ਪਾਲਣਾ ਫੈਸਲਿਆਂ ਵਿੱਚ ਤੁਹਾਡੇ ਕਾਨੂੰਨੀ ਸਲਾਹਕਾਰ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਆਪਣੇ ਏਆਈ ਏਜੰਟ ਨੂੰ ਅਨੁਮਾਨਿਤ ਨਹੀਂ, ਸਗੋਂ ਪਰਖੇ ਗਏ ਜੋਖਮਾਂ ਨਾਲ ਲਾਂਚ ਕਰੋ।
ਸਾਨੂੰ ਦੱਸੋ ਕਿ ਤੁਹਾਨੂੰ ਕੀ ਟੈਸਟ ਜਾਂ ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਅਸੀਂ 2 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ-ਅੰਦਰ ਸਕੋਪ, ਸਮਾਂ-ਸੀਮਾ ਅਤੇ ਲਾਗਤ ਦੇ ਨਾਲ ਜਵਾਬ ਦਿੰਦੇ ਹਾਂ।

