Les programmeurs doivent d'effectuer un travail contraire à l'éthique ou illégal?

La semaine dernière, le réseau a un message écrit par un programmeur et professeur Bill Sourorom. Il est appelé « code, que j'ai honte. »

Comme la discussion a commencé parmi les programmeurs

Dans le poste Souror raconte la terrible histoire d'un jeune programmeur qui a obtenu un emploi et a été donné la tâche de créer un site web pour les entreprises pharmaceutiques. Le poste ensemble mérite d'être lu, mais le fait est que le programmeur a dû aider l'entreprise à créer des annonces basées sur la tromperie, qui devait convaincre les jeunes femmes qui prennent un médicament en particulier.

Plus tard, il a appris que le médicament a été connu pour sa propriété d'aggraver la dépression et au moins une jeune femme suicidée en le prenant. Il a également appris que sa sœur prend ce médicament, et elle met en garde contre les conséquences.

Cependant, même des décennies plus tard, il se sent toujours coupable à cause de ce travail. Écrire ce post a été inspiré par une conversation Roberta Martina, intitulée « L'avenir de la programmation. » Martin est une figure populaire dans le monde des programmeurs, bien qu'ici il est plus connu sous le nom « Oncle Bob ».

Les développeurs de logiciels « tuer des gens »

Dans cette interview, Martin affirme que les développeurs de logiciels doivent comprendre ce qu'ils assument la responsabilité, et il doit être fait rapidement. « Décidons ce que cela signifie d'être un programmeur – Martin dit dans la vidéo. – La civilisation dépend de nous, mais pas rendu compte jusqu'à présent ".

Le fait que tout le monde dans le monde d'aujourd'hui, ce que nous faisons, y compris l'achat des choses, des appels téléphoniques, la conduite des voitures, voler dans les avions, ne peut pas faire sans le logiciel. Des dizaines de personnes ont déjà été tués par un logiciel défectueux dans les voitures, tandis que des centaines sont morts pour la même raison lors de Voyage d'air.

« Nous tuons les gens, – dit Martin. – Nous sommes venus dans cette entreprise de ne pas le faire. Mais la situation ne fait qu'empirer ».

de nouveaux problèmes

Martin a noté que, à son avis, il y a des signes que les développeurs dans les années à venir seront de plus en confrontés à des problèmes réels. Il a cité l'exemple du directeur général de Volkswagen en Amérique, Michael Horn, qui a d'abord accusé les ingénieurs logiciels dans les émissions qui sont produites par la société. Pendant le scandale qui a éclaté lors d'une audience du Congrès, Corne a dit que les programmeurs ont agi par eux-mêmes « pour une raison ou une autre. » Plus tard Klaxon a démissionné après que les procureurs des États-Unis ont accusé la compagnie à prendre cette décision au plus haut niveau et d'essayer de le cacher.

Mais Martin a déclaré: « La chose la plus étrange était le comportement des développeurs de logiciels qui ont écrit le code. Certains programmeurs d'écrire du code qui a aidé l'entreprise à enfreindre la loi. Pensez-vous qu'ils pourraient savoir à ce sujet? Je pense qu'ils sont susceptibles de connaître ".

Appel à l'action

Martin a terminé son discours avec un appel à l'action, dans lequel il a mis en garde qu'un jour un certain développeur de logiciel fera qui conduira à une catastrophe, qui tuent des dizaines de milliers de personnes.

Mais Souror indique qu'il est non seulement un meurtre au hasard ou la pollution de l'air délibérée. Les entreprises de Wall Street utilisent déjà un logiciel pour manipuler les cours de la bourse. « Il ne pouvait pas se produire sans programmeur qui crée un faux ordres », – dit Souror.

reconnaissance des programmeurs

après Sourora apparu sur Hacker Nouvelles et Reddit et a provoqué la publication d'une longue liste de reconnaissances des programmeurs de choses contraires à l'éthique et parfois illégales qu'ils ont été invités à effectuer.

Un écrit au sujet de son travail dans l'entreprise qui a signé les gens pour leurs bulletins d'information par courrier électronique, même après les abandonner (ce qui peut constituer une violation de la loi fédérale). Les programmeurs puis écrire des scripts pour aider les vendeurs à déterminer le public cible de l'entreprise. Lorsque ce gars-là a déclaré l'opinion directeur technique sur le travail comme contraire à l'éthique, il a reçu l'ordre d'écrire une lettre de démission. Et maintenant, selon lui, ces mêmes programmeurs travaillant sur les start-ups pour déterminer une vaste gamme de données sur la localisation des personnes.

Un autre programmeur a été embauché par un logiciel d'écriture pour la radio. On lui a demandé d'utiliser les voies réservées aux services d'urgence, car il permettrait d'accélérer le fonctionnement du dispositif. « Il est plus rapide, mais illégalement, et d'ailleurs, il est dangereux en cas d'urgence », – at-il dit. Il a refusé de se conformer à cet ordre, mais dit il y a toujours un programmeur qui est prêt à suivre les ordres sans poser de questions.

Un autre programmeur m'a dit que pendant la formation, il a été transféré à un code que vous avez copié à partir du site de compétition. L'homme a demandé de créer sur sa base une démo pour les investisseurs. Il se rendit compte que la direction était nécessaire de les tromper.

En outre, il a publié un article sur la façon dont a été demandé à un autre programmeur de changer la sauvegarde de certaines données financières et de lancer le rapport annuel à nouveau en rétablissant la copie de sauvegarde du règlement modifié. Ce programmeur a refusé le poste. Quelques années plus tard, il a appris que ses anciens clients ont été arrêtés pour fraude fiscale.

Un programmeur a également dit qu'il a demandé récemment de créer un jeu de hasard pour les enfants sous le couvert d'une direction dont la gestion. Selon lui, il ne travaille plus pour l'entreprise.

manque d'éthique

Le thème commun entre toutes ces histoires est que si le développeur refuse de se conformer à ces travaux, la société va simplement trouver quelqu'un d'autre qui pourrait le faire. Peut-être cela est vrai maintenant, mais pourrait bientôt changer.

« Nous excluons le monde, – a dit Martin. – D'autres personnes croient qu'ils gouvernent le monde. Mais en fait, ils ne sont que des règles écrites et les soumettre à nous. Et nous écrivons des règles pour vous aider à utiliser les machines et faire tout ce qui est nécessaire à l'humanité ".

Martin a mis en garde, si les programmeurs ne commencent pas à assumer la responsabilité de leurs actions maintenant, après arriver un événement apocalyptique qui pourrait tuer des milliers de personnes, les législateurs feront pour eux, dictant toutes les règles de fonctionnement, jusqu'à la langue qu'ils seront autorisés à utiliser.

aborder

La solution évidente est d'enseigner les rudiments de l'éthique. Et ils sont à peu près obligatoire pour tous les étudiants de la science informatique qui a obtenu son diplôme d'un programme de formation de quatre ans. Bible ce cours doit être une œuvre de l'auteur Sarah Baas « Don de feu: problèmes sociaux, juridiques et éthiques pour les ordinateurs. »

Malheureusement, un grand nombre de développeurs de logiciels d'aujourd'hui sont autodidactes ou apprendre par les soi-disant Bootcamps de codage.

Dans ce cas, leur éducation comprend rarement tout type d'enseignement de l'éthique. Une attention particulière devrait être accordée aux personnes qui peuvent rapidement écrire du code pour répondre à la croissance du marché et vorace.

Souror encourage tous les développeurs qui utilisent les sites de formation Bootcamps et en ligne, pour commencer à parler des responsabilités éthiques qui viennent avec le code d'écriture.

le contrôle de l'opération

Mais ce que les programmeurs ont vraiment besoin d'une organisation qui va gérer et de réglementer leur profession. D'autres industries, comme nous le savons, ont longtemps eu un tel contrôle. À l'heure actuelle, il n'y a rien comme ça pour les développeurs, bien que l'Association for Computing Machinery a déjà commencé à créer des documents éthiques pour les programmeurs.