Configurer les paramètres de source externe Flat File
DataSync vous permet de vous connecter à des ressources CSV locales et distantes, y compris des fournisseurs de stockage cloud et des serveurs de fichiers. Pour chaque type de source, vous définissez le paramètre URI à l'emplacement de la ressource CSV, ainsi que les propriétés d'authentification requises.
Types de connexion pris en charge
| Type de connexion | Description |
|---|---|
| Authentification de base | Connectez-vous à des dossiers locaux, des flux HTTP/HTTPS, SharePoint, FTP/FTPS ou SFTP. |
| Amazon S3 | Connectez-vous aux seaux et dossiers Amazon Simple Storage Service (S3). |
| Stockage Azure | Connectez-vous à Azure Blob Storage ou Azure Data Lake Store (Gen1/Gen2). |
| Oracle Cloud Storage | Connectez-vous aux seaux et dossiers Oracle Cloud Storage. |
| Wasabi | Connectez-vous au stockage d'objets cloud Wasabi. |
Authentification de base
Fichier local (format URI)
| Propriété | Exigence |
|---|---|
| URI | Requis — chemin du dossier local ou URI de fichier |
- Définissez
URIsur le dossier contenant les fichiers CSV. - Combinez plusieurs CSV avec le même schéma :
URI=C:\folder; AggregateFiles=True; - Listez chaque fichier comme une table séparée :
URI=C:\folder; AggregateFiles=False;
HTTP/HTTPS
| Propriété | Exigence |
|---|---|
| URI | Requis — http://remoteStream ou https://remoteStream |
| Utilisateur | Optionnel |
| Mot de passe | Optionnel |
| AuthScheme | Optionnel |
- Définissez
URIsur l'URL HTTP ou HTTPS du CSV :URI=http://www.host1.com/streamname1; - Ajoutez
AuthSchemeet les informations d'identification si nécessaire. Vous pouvez également définirCustomHeadersouCustomUrlParams. - Interrogez la table diffusée :
SELECT * FROM streamedtable;
SharePoint Online SOAP
| Propriété | Exigence |
|---|---|
| URI | Requis — sp://remotePath |
| Utilisateur | Requis |
| Mot de passe | Requis |
- Définissez
URIsur la bibliothèque de documents contenant les fichiers CSV. - Spécifiez
Utilisateur,Mot de passeet l'URL complèteSharepointUrlpour authentification.URI=sp://Documents/folder1; User=user1; Password=password1; SharepointUrl=https://subdomain.sharepoint.com;
FTP/FTPS
| Propriété | Exigence |
|---|---|
| URI | Requis — ftp://server:port/remotePath ou ftps://server:port/remotepath |
| Utilisateur | Requis |
| Mot de passe | Requis |
- Définissez
URIsur le serveur FTP/FTPS et le chemin du dossier. - Fournissez
UtilisateuretMot de passepour l'authentification :URI=ftps://localhost:990/folder1; User=user1; Password=password1;
SFTP
| Propriété | Exigence |
|---|---|
| URI | Requis — sftp://server:port/remotePath |
| Utilisateur | Optionnel |
| Mot de passe | Optionnel |
- Définissez
URIsur le serveur SFTP et l'emplacement du dossier. - Incluez
UtilisateuretMot de passesi l'authentification est requise :URI=sftp://server:22/folder1; User=user1; Password=password1;
Amazon S3
| Propriété | Exigence |
|---|---|
| URI | Requis — s3://bucket/folder/ |
| AWSAccessKey | Requis — votre clé d'accès AWS (nom d'utilisateur) |
| AWSSecretKey | Requis — votre clé secrète AWS |
| AWSRegion | Optionnel |
- Définissez
URIsur le seau S3 et l'emplacement du dossier :URI=s3://bucket1/folder1; - Fournissez
AWSAccessKeyetAWSSecretKeypour l'authentification :URI=s3://bucket1/folder1; AWSAccessKey=token1; AWSSecretKey=secret1; AWSRegion=OHIO; - Optionnellement, définissez
AWSRegionpour spécifier la région pour le seau.
Exemple — connexion à des services compatibles S3
Vous pouvez également vous connecter à des services de stockage compatibles S3 en définissant une URL de base personnalisée dans les propriétés de connexion. Voici un exemple de paramètres d'URL de base
URL=http://s3.%region%.myservice.com
Region=region-1
Avec ces paramètres, DataSync génèrera des URL de requête dans l'un des formats suivants :
| UseVirtualHosting | Format d'URL généré |
|---|---|
| False | https://s3.region-1.myservice.com/bucket/... |
| True | https://bucket.s3.region-1.myservice.com/... |
Stockage Azure
Azure Blob Storage
| Propriété | Exigence |
|---|---|
| URI | Requis — azureblob://mycontainer/myblob/ |
| AzureAccount | Requis |
| AzureAccessKey | Requis — votre clé d'accès (nom d'utilisateur) |
- Définissez
URIsur le conteneur et le nom du blob. - Fournissez
AzureAccountetAzureAccessKeypour l'authentification :URI=azureblob://mycontainer/myblob/; AzureAccount=myAccount; AzureAccessKey=myKey;
Azure Data Lake Store Gen 1
| Propriété | Exigence |
|---|---|
| URI | Requis — adl://remotePath ou adl://Account.azuredatalakestore.net@remotePath |
| InitiateOAuth | Requis |
| OAuthClientId | Optionnel |
| OAuthClientSecret | Optionnel |
| OAuthAccessToken | Optionnel |
| AuthScheme | Requis |
| AzureAccount | Requis |
- Définissez
URIsur le chemin Gen1 Data Lake. - Configurez les paramètres OAuth si nécessaire.
- Spécifiez
AzureAccountet les propriétés d'authentification requises.
Azure Data Lake Store Gen 2
| Propriété | Exigence |
|---|---|
| URI | Requis — abfs://myfilesystem/remotePath |
| AzureAccount | Requis |
| AzureAccessKey | Requis — votre clé d'accès (nom d'utilisateur) |
- Définissez
URIsur le système de fichiers et le dossier contenant vos fichiers CSV :URI=abfs://myfilesystem/folder1; AzureAccount=myAccount; AzureAccessKey=myKey;
URI=abfss://myfilesystem/folder1; AzureAccount=myAccount; AzureAccessKey=myKey;
Azure Data Lake Store Gen2 avec SSL
| Propriété | Exigence |
|---|---|
| URI | Requis — abfss://myfilesystem/remotePath |
| AzureAccount | Requis |
| AzureAccessKey | Requis — votre clé d'accès (nom d'utilisateur) |
- Définissez
URIsur le système de fichiers et l'emplacement du dossier en utilisant le protocole sécuriséabfss://. - Fournissez
AzureAccountetAzureAccessKeypour l'authentification.
Oracle Cloud Storage
| Propriété | Exigence |
|---|---|
| URI | Requis — os://bucket/remotePath |
| AccessKey | Requis — votre clé d'accès (nom d'utilisateur) |
| SecretKey | Requis — votre clé secrète |
| Region | Optionnel |
| OracleNamespace | Requis |
- Définissez
URIsur le seau Oracle Cloud et le dossier. - Fournissez
AccessKey,SecretKeyetOracleNamespacepour l'authentification. - Spécifiez optionnellement
Region:URI=os://bucket/remotePath/; AccessKey=token1; SecretKey=secret1; OracleNamespace=myNamespace; Region=us-ashburn-1;
Wasabi
| Propriété | Exigence |
|---|---|
| URI | Requis — wasabi://bucket1/remotePath |
| AccessKey | Requis — votre clé d'accès (nom d'utilisateur) |
| SecretKey | Requis — votre clé secrète |
| Region | Optionnel |
- Définissez
URIsur le seau Wasabi et le dossier. - Fournissez
AWSAccessKeyetAWSSecretKeypour l'authentification. - Spécifiez optionnellement
AWSRegion:URI=wasabi://bucket1/folder1; AWSAccessKey=token1; AWSSecretKey=secret1; AWSRegion=OHIO;